Hola Alex,
Fijate que también dice que rg(A)=rg(A|b), es decir que la cantidad de filas no nulas luego de escalerizar (o escalones, como los llamamos cuando vimos el teorema de Rouché-Frobenius) de A y A|b son iguales, por lo tanto lo que estás planteando no puede pasar y el sistema es compatible. Ahora, qué pasa si el número de escalones no nulos luego de escalerizar (rg(A|b)) es menor a la cantidad de incógnitas que quiero hallar (n) ?