Hola. El dominio es un cuadrado, solo se dan 3 vértices porque al decirte que es un cuadrado y darte 3 de los vértices, queda implícito cuál es el cuarto (sería el 
como en tu dibujo).
Una vez que tenés el dominio, tratá de pensar encontrar una transformación lineal que lleve ese cuadrado a un cuadrado de lados paralelos a los ejes (es la sugerencia que da la solución).
Saludos