Buenas!, escribí como combinación lineal de un vector genérico los vectores del problema y despeje alfa beta y gama en función de a, para a=3 me da que los escalares no existen, por lo tanto al multiplicar la transformaciones por los escalares , tampoco existen, la respuesta correcta es que para a=3 existen infinitas transformaciones, no entiendo como concluir eso 
Hola Milena, no sé si comprendí bien tu estrategia:
escribiste un vector genérico como combinación lineal de $$\{(1,0,1), (0,1,1), (2,1,a)\}$$ y trataste de ver qué vectores se podían obtener como para hallar el espacio generado?
Podría ser una buena idea, pero no me queda claro el remate.
Lo que en sí tendrías que discutir, es la independencia lineal el conjunto $$\{(1,0,1), (0,1,1), (2,1,a)\}$$. Como estamos en $$\mathbb{R}^3$$, si ese conjunto es LI entonces será una base. Y si tenemos una transformación definida en una base, existe siempre una única $$T$$ que satisface esas condiciones.
Lo que sucede aquí es que cuando $$a=3$$ el conjunto es LD, pero la definición de $$T$$ no es imposible, en el siguiente sentido: $$(2,1,3)=2(1,0,1)+(0,1,1)$$, y efectivamente también se cumple que $$T(2,1,3)=2T(1,0,1)+T(0,1,1)$$. Si esta última igualdad no se cumpliera, no habría ninguna $$T$$ posible que cumpla con las condiciones pedidas.
¿Pero por qué hay infinitas?
Podemos completar el conjunto $$\{(1,0,1), (0,1,1)\}$$ a una base de $$\mathbb{R}^3$$ agregando un vector. Por ejemplo: $$\{(1,0,1), (0,1,1), (1,1,0)\}$$. Ya sé quienes tienen que ser las imágenes de los dos primeros vectores, pero tengo infinitas opciones para elegir la imagen del vector nuevo $$(1,1,0)$$. Cada vez que elijo una imagen para este vector, queda determinada una única $$T$$, ya que queda definida en una base.
Espero que esto eche un poco de luz sobre el tema.
Saludos!