Hola,
Creo que hay un problema con el caso de una matriz fila por una matriz columna.
Tenés que considerar el caso en que sea un número por un número, porque siempre llama a recursividad pero al final hay un único elemento en la fila y columna para trabajar.
Es decir:
if fa==1 && cb==1
if ca==1 && cb==1
P = A(1,1)*B(1,1);
else
P = A(1,1)*B(1,1) + productoMatrices(A(1,2:ca),B(2:fb,1));
end
elseif ...
Fijate y comentame si esto soluciona tu problema.
saludos,
Eduardo