Hola, Facundo:
El procedimiento para hallar la descomposición QR de una matriz no depende de si la matriz es cuadrada o no (es el mismo para ambos casos). Lo único que debes verificar al inicio es si las columnas de la matriz que te dan son linealmente independientes. Ésta es la única condición que necesitas para descomponer.
Saludos,
Marco