Ejercicio 2.48

Ejercicio 2.48

de Diego Martin Celery Lopez -
Número de respuestas: 2

Hola. En el siguiente ejercicio:

"Sequence length.
How much information does the length of a sequence give about the content of a sequence?
Suppose we consider a Bernoulli (1/2) process {Xi}.
Stop the process when the first 1 appears. Let N designate this stopping time.
Thus XN is an element of the set of all finite length binary sequences {0, 1}# ={0, 1, 00, 01, 10, 11, 000, . . .}.

(a) Find I(N;XN)."

Esto da I(N;XN)=H(N)=E(N)=2   por que 2?



En respuesta a Diego Martin Celery Lopez

Re: Ejercicio 2.48

de Alvaro Martin -

Hola.

Tenemos  I(N;X^N) = H(N) - H(N|X^N), donde   H(N|X^N) = 0 porque el largo de la secuencia, N, es función de la secuencia. El cálculo de H(N) es como en el primer ejercicio del primer práctico.

Saludos,
Álvaro