Las definiciones: entropía simple, condicional, conjunta, relativa (D), información mutua. Regla de la cadena para probabilidades y para la entropía y sus variantes.
Definición de función convexa. Desigualdad de Jensen y logsum.
Definiciones de tasa de entropía.
Nada más, con eso basta.
Definición de función convexa. Desigualdad de Jensen y logsum.
Definiciones de tasa de entropía.
Nada más, con eso basta.