Hola Martín,
lo que ocurre es que si bien hay una impedancia equivalente del sistema, al estar la inductancia mutua no vas a poder calcular la impedancia equivalente a partir de combinaciones de impedancias en serie y en paralelo porque no lo están. Tus ecuaciones 2 y 3 no son correctas (L1 y M_12 no están en serie así como tampoco L2 y M_21). Podés intentar resolver este problema parecido al ejercicio 6 del práctico 9, plantear mallas y nodos y llegar a una expresión del tipo I=V/(algo), con I la corriente compleja por la fuente. Ese "algo" va a ser la impedancia equivalente (con una parte real y una parte imaginaria) y para que sea resistiva imponés que se anule la parte imaginaria y eso va a darte el valor de w buscado.
Espero haber sido de ayuda,
Saludos,
Julia.