Te respondo numerando las respuestas como tus preguntas:
1) La densidad de corriente para cargas en movimiento es (ver ec 7.4 del Reitz, Milford, Christy), donde n es la densidad de partículas (partículas por unidad de volumen) que tienen carga q, y es la velocidad de estas partículas. Luego nq es la densidad de carga por unidad de volumen (no le llamo ρ, porque voy a guardar esta letra para la coordenada radial en coordenadas cilíndricas). En este caso tenemos una densidad superficial de carga σ. Luego la densidad superficial de corriente será , ya que es la velocidad de la carga superficial escrita en coordenadas cilíndricas (orientando el eje de las coordenadas cilíndricas según la dirección de la velocidad angular). Como σ es densidad de carga superficial (en lugar de carga por unidad de volumen) queda una densidad de corriente superficial (es decir corriente por unidad de longitud).
2) El momento dipolar magnético para una curva plana es (ver ecuación 8.84 del Reitz, Milford, Christy), donde I es la corriente que circula por la curva y es un vector perpendicular a la superficie encerrada por la curva, orientado por la regla de la mano derecha según la circulación de la corriente, y cuyo módulo es el área encerrada por la curva. Luego dividimos la superficie esférica en espiras circulares que subtiendan un ángulo dθ, siendo θ el ángulo polar de coordenadas esféricas. El ancho de estas espiras es R dθ. Luego la corriente que llevarán estas espiras es dI = R dθ σ ρ ω (densidad superficial de corriente por ancho de las espiras). Cada una de estas espiras tiene un área πρ². Luego la contribución al momento dipolar de cada una de estas espiras es , siendo el versor de coordenadas cilíndricas (dirigido según la velocidad angular). El momento dipolar total se calcula integrando en θ (de 0 a π) estos momentos diferenciales, teniendo en cuenta que ρ = R sen θ.
3) El potencial escalar magnético tiene que estar acotado en el centro de la esfera, porque en ese punto no hay ninguna singularidad (por ejemplo, no hay un dipolo magnético). Esto hace que los término de la forma sean todos nulos para el potencial en el interior del cascarón esférico. El potencial en el infinito tiene que estar acotado (no debe diverger) porque la distribución de corrientes está acotada en el espacio. Esto hace que todos los términos de la forma sean cero para el potencial fuera del cascarón esférico.
Las condiciones de borde en la frontera son que las componentes normales del campo magnético son iguales (porque el flujo a través de una superficie con forma de caja de píldoras que tiene una cara a cada lado de la frontera tiene que ser 0). Y de aplicar la ley de Ampere a una curva rectangular que tiene un lado a cada lado de la frontera (y los otros dos lados despreciables), la diferencia de los campos magnéticos tangenciales es por la densidad de corriente superficial (la hallada en la parte anterior.j = σ ρ ω = σ ω R senθ).