¿Cómo puedo demostrar que <A,A>=tr(AtA)>=0?
Una opción es trabajar con la definición de producto de matrices: si M y N son dos matrices de dimensiones adecuadas, el elemento 
de MN es: 
. La idea es usarlo para calcular los elementos 
de la diagonal de 
, que son los que determinan su traza.
Saludos.
Plantee la matriz producto y es claro que los elementos de su diagonal son suma de cuadrados y por lo tanto mayores o iguales a 0. Por lo que la traza es >=0.
Gracias