Hola, Ivan. No te preocupes por las fórmulas. Lo importante es que se entienda, y ya vas a tener tiempo para aprender eso más adelante si lo precisas. También está la opción de cargar fotos de lo que escribes a mano, si quieres.
Lo que está sucediendo es que el intervalo correcto de los ángulos es el segundo que elegiste. En coordenadas esféricas uno de los ángulos se limita a un intervalo de tamaño , porque si no habría más de una terna de coordenadas correspondiente al mismo punto del espacio. En la convención que estás utilizando, el ángulo indica el ángulo entre el eje z y el vector de posición del punto, y es el que se restringe entre y (enlace).
---
No olvides que el cambio de coordenadas cartesianas a esféricas dentro de la integral introduce también un factor en el diferencial de volumen:
(debido al determinante del jacobiano de la transformación; más detalles en este enlace).
Por otra parte, no olvidemos que la función que se integra es la distancia al eje z, dada por
Entonces vemos que la distancia al eje z no depende del ángulo . Esto es consecuencia de la simetría de revolución alrededor de ese eje. Observemos que si uno prefiere utilizar una convención diferente de coordenadas, es probable que resulte más sencillo calcular otro de los elementos del tensor de inercia... pero finalmente vamos a llegar a que los tres elementos no nulos son iguales, por simetría.
----
Un último comentario: es fascinante saber hacer integrales 3d, pero no es de los temas más relevantes para poder resolver lo ejercicios de nuestro curso. Pienso que con entender adecuadamente la formulación y conocer alguno ejemplos clave es suficiente para nuestros propósitos (por ahora).
Saludos,
NC