Teora de la Informacin y Mtodos de Codificacin

Actividad Fundamental 1

Fecha de entrega: 25 de febrero antes de la hora de clase.

Modo de entrega: Personal, mediante el correo de tareas.

I - Resuelva correctamente.

1 - Considere un lenguaje con strings de longitud unitaria {A,B,C,D} con las probabilidades 1/4, 1/12, y 5/12, calcule la entropa correspondiente.

2 Calcule la Autoinformacin y la Entropa de

a) Lanzar un dado balanceado

b) Lanzar un dado cargado a 3 con p(3) = 0.2

c) Lanzar dos dados.

3 Calcule la entropa de obtener una carta del palo de diamantes si se ha obtenido:

a) Una carta negra

b) Una carta de diamante y un cuatro

c) Dos cartas de trbol y un diamante

d) Las cuatro reinas

4- Considere un canal cuyo alfabeto de entrada es A = {$,%,&,#,} y cuyo alfabeto de salida es B = {$$,%,&&&&, ##, }Cul es la longitud del canal de salida?

5 Calcule la matriz de probabilidad de transicin de un canal cuya entrada es A = {0,1,2} con un alfabeto de salida B = {0,1,2,*} cuando la probabilidad de cometer un error de transmisin es de 0.60, y de obtener una salida de 0, 1 o 2 es de 0.10, 0.25 y 0. 52, respectivamente.

Calcule la matriz de probabilidades de transicin si

a) * se convierte equitativamente en 0, 1 o 2.

b) * se convierte en 0 la mitad de las veces y en uno el 3% de las veces.

c) Se considera un canal con alfabetos de entrada y salida equivalentes.

d) En cul de los casos anteriores el canal es simtrico? Explique detalladamente.