pr1 ej10

pr1 ej10

de Valentina Chagas Bas -
Número de respuestas: 6

Hola buenas, estoy intentando hacer este ejercicio pero no estoy pudiendo redondear nada.

En primer lugar no entiendo muy bien que seria Q = X DIV 2 ni como interpretarlo (seria dividir el valor que toma X o sea X=xi por ejemplo, Q= qi = xi DIV 2)

Luego supongo que la variable R solo puede tomar los valores 0 y 1 y la variable Q entre 0 y n-1

En principio Q y R son funciones de X. Entonces conociendo X conocemos Q y R y conociendo Q conocemos R y viceversa (?) y entonces H(R|Q)=0

H(Q,R) = H(Q) + H(R|Q) = H(R) + H(Q|R) = H(Q) = H(R)  

Obviamente no llego a nada. 

Alguna ayuda? Gracias!!

En respuesta a Valentina Chagas Bas

Re: pr1 ej10

de Maximo Pirri -
Buenas,
La idea del ejercicio es que puedas determinar desigualdades para los tres casos. En particular, que puedas decir si un valor es mayor o igual al otro (y en qué casos es igual), o mayor estricto o siempre igual.
Q = X div 2 significa que Q es el resultado de la división entera de X. Si por ejemplo X toma el valor 5, Q tomará el valor 2. Si X toma el valor 4 Q también será 2. Dado que X toma los valores naturales desde 0 a n-1, con esta definición podes ver que los valores que toma Q no llegan hasta n-1.
R = X mod 2 significa que R es el resto de la división de X entre 2. Como bien dijiste, R puede tomar solo los valores 0 y 1.
También es cierto que tanto Q como R son función de X. Sin embargo, no es cierto que conociendo el valor de Q conocemos R ni viceversa. Por ejemplo, si Q toma el valor 2 (como en el ejemplo de arriba), el valor de R podría ser tanto 0 (si X era 4) como 1 (si X era 5). A su vez, si sabemos que R es 1, el valor de Q podría ser 2 (si X era 5) o 3 (si X era 7) o 4 (si X era 9) o muchos más valores. Este último ejemplo puede que te ayude a darte cuenta con qué valores de X la variable R toma el valor 1 y con qué valores de X R toma el valor 0.
Con los ejemplos que te mencioné podes ver también que solo conociendo Q o solo conociendo R no podes determinar el valor de X. ¿Qué pasa si conoces tanto Q como R?

Espero te ayude.
Saludos.
En respuesta a Maximo Pirri

Re: pr1 ej10

de Valentina Chagas Bas -
Hola! Entonces si conozco Q y R puedo determinar X, queda X= 2.Q+R y haciendo algo parecido al ejercicio 4a) digo que H(X|R) = H(Q|R)
Y H(Q,R) = H(R)+H(Q|R) = H(R)+H(X|R) ----> H(X|R) = H(Q,R) - H(R)
H(X) >= H(X|R) (condicionar reduce entropia)
H(X) >= H(Q,R) - H(R) >= H(Q,R)
Voy por buen camino?
Y para que sea una igualdad X no tengo ni idea, viendo las cuentas si X es independiente de Q y de R y además H(R)=0 queda pero no tiene ningún sentido para mi plantearse eso.
Para H(X) y H(Q) uso
H(X) >= H(X|R) = H(Q|R) = H(Q) + H(R|Q) >=H(Q)
Para H(R) estaria bien plantearse a ver si n es par o impar y hacer algo con eso? De entrada H(R)<=1.
Hasta ahora es lo que he podido pensar.
Muchas gracias!!
En respuesta a Valentina Chagas Bas

Re: pr1 ej10

de Maximo Pirri -
Hola,
Es correcto lo que decís que conociendo Q y R podes determinar X, entonces, teniendo (Q, R) es posible saber X. En otras palabras, X es función del par (Q,R). ¿Se cumple esa relación en el otro sentido? Si recuerdas algunas conclusiones que sacamos en el ejercicio 2 hecho en clase, puedes hallar la relación. El ejercicio es un poco más directo con estos resultados y no es necesario hacer tantas cuentas en este caso.

Para el segundo punto, llegas a un resultado final correcto pero nuevamente podía salir de forma más directa aplicando la conclusión a la que llegamos en el ejercicio 2 (y teniendo en cuenta mi respuesta anterior).

Para el tercer punto está muy bien que H(R) <= 1 ¿Por qué se cumple eso? ¿En que casos es igual?

Saludos.
En respuesta a Maximo Pirri

Re: pr1 ej10

de Valentina Chagas Bas -
Claro, creo que para que se de la igualdad en el primer caso H(X|Q,R) y H(Q,R|X) tendrían que ser 0 (como en el ej 2). H(X|Q,R) ya concluimos que es 0 porque X es función de Q,R pero luego conociendo solo X no puedo determinar Q y R por lo que no creo que se llegue a cumplir la igualdad con H(Q,R|X)=0.
Para que H(R)=1 tengo que tener que 0 y 1 tengan la misma probabilidad 1/2 (y eso me da la entropia maxima) y con esa probabilidad H(X)=1 y como es la máxima H(R)<=1.
Creo que entendí bastante mejor ahora aunque en algunos casos para llegar a la igualdad tengo que hacer planteos que conceptualmente no termino de entender.
Muchas gracias!!!
En respuesta a Valentina Chagas Bas

Re: pr1 ej10

de Maximo Pirri -
Buenas,
Ya casi tienes resuelto el ejercicio pero tienes algunos errores. ¿Por qué decís que no se puede determinar Q y R conociendo X? Recuerda la definición de Q y de R en mi primera respuesta y con eso ya resuelves el primer punto.

Muy bien, H(R) es 1 si R toma el valor 0 y el valor 1 con la misma probabilidad de 1/2 que sería la entropía máxima para R. Sin embargo, la entropía máxima para X NO es 1. X puede tomar cualquier valor natural entre 0 y 2n-1 y recuerda que la entropía máxima es el logaritmo de la cardinalidad del alfabeto.

Saludos,
Máximo.
En respuesta a Maximo Pirri

Re: pr1 ej10

de Valentina Chagas Bas -

Ah!! Ahora leyendo entendí. Para hallar Q y R con X solo hago la cuenta como se plantea en la definición de Q y R y ta, se me pasó eso. Me confundí.

Y en lo último me equivoque yo. Quise poner que H(R)=1 no H(X).

Muchas gracias por tu respuesta. Saludos!!!