Hola,
está bien tu idea inicial de "podar" el conjunto hasta obtener un LI que genere lo mismo que el conjunto original.
Una vez que hayas hecho esto, (te sugiero revisar las cuentas para corroborar que el espacio generado por $$A$$ tiene dimensión 2), si el conjunto que obtenés es base del espacio vectorial que te da el problema, entonces debería o bien haber una única TL que cumpla con esas condiciones, o ninguna.
Si por ejemplo habías sacado $$M_5$$ del conjunto porque viste que $$M_5=aM_1+bM_2+cM_3+dM_4$$ para ciertos $$a,b,c,d\in \mathbb{R}$$, entonces debería cumplirse que $$T(M_5)=aT(M_1)+bT(M_2)+cT(M_3)+dT(M_4)$$.
En cuanto a lo que escribiste más abajo, no es cierto que $$M_1+M_2=M_3+M_4+M_5$$, entonces no veo por qué sus transformados deberían ser iguales. Revisa esa parte.
Saludos!