Ejemplo pagina 18 "Diapositivas conceptos básicos"

Ejemplo pagina 18 "Diapositivas conceptos básicos"

de Ignacio Federico Alesina Acuña -
Número de respuestas: 1

Tengo una duda con respecto al ejercicio planteado en esta diapositiva. Para obtener H(X) lo despejé de la regla de la cadena (H(X,Y)=H(X)+H(Y|X)). Para calcular H(X,Y) utilice la sumatoria de los x pertenecientes a X de la sumatoria de los y pertenecientes a Y de p(x,y).log p(x,y). Usando los valores de p(x,y) que saco directamente de la tabla. Para calcular H(Y|X) utilicé la sumatoria de los x pert a X de p(x) por la sumatoria de los y pert Y de p(y|x).log p(y|x). Pero no logre llegar al resultado.

Queria saber si el método que utilice es correcto y tal vez le erre calculando las probabilidades condicionales o con alguna cuenta o si no era la forma de resolverlo.

En respuesta a Ignacio Federico Alesina Acuña

Re: Ejemplo pagina 18 "Diapositivas conceptos básicos"

de Maria Simon -

No estoy segura de entender bien. 

H(X) se puede hacer con las probabilidades marginales, llamadas P(X) en la última fila de la matriz. H(Y) de igual manera, con sus marginales.

H(X,Y) hay que hacerlo sumando en i y en j. Escribo en un pseudo latex:

H(X,Y) = sum_i sum_j {p(x_i,y_j) log p(x_i, y_j)}

H(X|Y) o H(Y|X) se pueden obtener teniendo H(X), H(Y) y H(X,Y) por la regla de la cadena.

Igual lo vemos mañana. Disculpa que no pude contestar antes.