Hola Gastón,
La idea no está mal, igualmente te recuerdo que la demostración debería realizarse para un sistema genérico de m ecuaciones y n incógnitas. Resulta muy útil aplicar el teorema de Rouché-Frobenius para ambas partes.
Por ser un sistema homogéneo el sistema siempre será compatible (el número de escalones p de la matriz será el mismo que el número de escalones p' de la matriz ampliada). Ahora, sabiendo que p≤m (esto es debido a que nunca podré tener más escalones que filas en una matriz) podemos afirmar que entonces p≤m<n por lo que, aplicando el teorema mencionado, se deduce que el sistema es compatible indeterminado, lo cual es equivalente a plantear que el sistema tiene soluciones no triviales.
Para la parte (d) la idea es similiar. partiendo de la hipótesis de que el sistema es compatible determinado se sabe que p=n. Aplicando nuevamente que p≤m se obtiene la tesis.
Cualquier duda que pueda haber quedado preguntá de nuevo.
Saludos