Hola,
el tema que para tener un capacitor necesitas dos superficies conductoras, una sería la esfera de radio a.
Pero la otra "placa conductora" no puede ser en r=b porque todo ese material es aislante. Para ese tipo de casos uno se imagina que la otra "placa conductora" es como si estuviera en el infinito ya que todo el espacio estaría dentro de ese capacitor.