No es exactamente por eso que la transformación no es lineal. Considerando las matrices A y B se tendría que $$T(A)=|A|.A^{-1}$$ y $$T(B)=|B|.B^{-1}$$, por lo que $$T(A)+T(B)=|A|.A^{-1}+|B|.B^{-1}$$, mientras que por otro lado se tiene que $$T(A+B)=|A+B|(A+B)^{-1}$$. Se ve claramente que no se verifica que $$T(A+B)=T(A)+T(B)$$ y no es solamente por el hecho que $$|A+B|\neq |A|+|B|$$, igualmente tu conclusión es correcta.
Saludos