En el programa "extension.m", para calcular la tasa de compresión, muestra una fórmula pero hace otra. A su vez no encontramos la verdadera definición de "Tasa de compresión"
Nos gustaría saber en donde está el error de programa, si en la fórmula que hace o en la que escribe.
Saludos,
Santiago .
Secundo la moción, la entropía que calcula sobre la fuente expandida no concuerda con los valores de entropía dados al principio para orden 2,4 y 8.
Gracias
Respecto a la tasa de compresión, se refiere a cuánto logro reducir el tamaño del archivo codificado de una nueva forma, con respecto al tamaño original (que corresponde a otra codificación). Queda expresado como porcentaje del tamaño en la codificación original.
Es cierto que está un poco confuso el texto con la expresión, quizás queda más claro así:
1-largo(msg_codif_nueva)/largo(msg_codif_original)
Respecto a la extensión de la fuente, los valores expresados de entropía corresponden a la entropía normalizada, es decir H(A^n)/n, siendo n el orden de la extensión.
Vale aclarar que en todos los casos estamos calculando valores empíricos de entropía, en base al conjunto de datos finito con el que contamos. Es importante separar los conceptos teóricos vistos en el curso, de cómo aplicarlos a una aplicación concreta como esta. En particular ustedes vieron en el curso que H(A)>=H(A^n)/n, lo que implica que la entropía normalizada decrece con el orden de la extensión (o se mantiene en caso que los símbolos sean independientes). Con esto en mente, deben analizar por qué en algunos casos, al extender la fuente, no hay mucha variación en la entropía normalizada, mientras en otros sí es significativa.
Saludos
Germán, no comprendo lo siguiente. Cuando se hace una extensión de orden n, la entropía no es n*H siendo H la entropía de la fuente sin extender?
Es por ello que no es tan claro ver porqué decrece. Luego de una extensión de orden n, la nueva entropía normalizada n no es igual a la original sin extender?
Saludos
Corregí la respuesta anterior porque había puesto H(A) tanto para la entropía de A, como para la extensión y debía ser H(A^n) en este último caso.
Ese resultado, es decir la igualdad H(A^n)=n.H(A) es cierto cuando la fuente es sin memoria. Esto en términos prácticos significa que cada símbolo generado es independiente de los demás. En el caso general lo que se cumple es la desigualdad. Por esta razón, cuando vean las extensiones propuestas en el taller habrá diferentes resultados que deberán analizar cómo podrían explicarse.
Saludos