Novedades

Hola.

A raíz de una consulta que me hicieron, noté que la redacción del paso 2 no está bien. Debería decir "...con un codificador aritmético usando la distribución $\hat{p}(x^n)$ aproximada con J dígitos de precisión".

Nada asegura que $\hat{p}(x^n)$ pueda representarse con precisión finita.

Para resolver ese aspecto del problema tienen que usar el último teorema de las notas. No sirve directamente la tesis del teorema tal como está expresada, porque acota D(P||Q) que es un promedio, pero en la demostración en las notas pueden ver que en realidad se llega acotando puntualmente el cociente $P(x^n)/Q(x^n)$ para toda secuencia $x^n$, de donde sale una cota para $-\log Q(x^n) + \log P(x^n)$ . Actualicé la última diapositiva de ese tema, donde hay comentarios sobre la demostración, para que lo tengan más a mano.

Saludos,
Álvaro