Modelos de Markov
-
Upload
miguel-castillo -
Category
Documents
-
view
243 -
download
0
description
Transcript of Modelos de Markov
MODELOS DE MÁRKOV
OCULTOS
John J. Sprockel D. MISyC
Departamento de Ingeniería de Sistemas Facultad de Ingeniería
Pontificia Universidad Javeriana
AGENDA
1. Aspectos históricos 2. Cadenas de Márkov 3. Definición de un modelo oculto de Márkov
a. Modelo formal b. Obtención de los parámetros del modelo c. Algoritmo forward-backward d. Algoritmo de Viterbi e. Algoritmo de Baum-Welch
4. Aplicaciones de los modelos oculto de Márkov 5. Presentación de los artículos 6. BIBLIOGRAFIA
ASPECTOS HISTÓRICOS
Estudió, entre otros muchos aspectos, las construcciones lingüísticas a partir del cálculo matemático (1913). Así, por ejemplo, analizó la novela de Puschkin Eugenio Oniegui, y dedujo que las letras del alfabeto cirílico, como las de cualquier o t ro a l fabe to , i ban aparec iendo relacionadas con las que las precedían en la escritura. La nueva letra está determinada por la anterior, pero es independiente de la manera en la que aparece respecto de las anteriores.
Andréi Andréyevich Márkov, 1906: Cadenas de Márkov. Heredero de la cátedra de Chebyshev
Leonard E. Baum, Década de 1960s e inicios de 1970s.
L. P Neuwirth acuñó el término Modelo oculto de Márkov
Lawrence Rabiner, 1989. Marcó el éxito de HMM en reconocimiento de la voz
CADENA DE MÁRKOV
! !!!! = ! !! = !,!!!! = !!!! ,!!!! = !!!! ,… ,!! = !! = !! !!!! = ! !! = !,!!!!= !!" !
1/3$
2/3$
1/2$ 1/2$ 1/4$
1/4$
1$1/2$
$$$
$$$
$$$
Matriz$de$transiciones$$$Q=$(qij)=$$
1 3 2 3 0 01 2 0 1 2 00 0 0 11 2 0 1 4 1 4
$
$$
1$ 2$ 3$ 4$
CADENA DE MÁRKOV Suponga(que((en(el(tiempo(n,(Xn(tiene(una(distribución(!(((vector(de(columna,(que(es(la(PMF)(!(!!!! = !) = ! !!!! = ! !! = ! ! !! = !
!!= ! !!!!"
!(
(lo(que(significa(que(es(la(entrada(j(de(!!(
(! !!!! = ! !! = ! = !!"(! !!!! = ! !! = ! = ! !!!! = ! !!!! = !,!! = ! ! !!!! = ! !! = !
!!
= ! !!!!!!!
(
lo(que(significa(que(es(la(entrada((i,j)de(!!!(((Así(que( !!(es(la(distribución(en(el(tiempo(n+1;(( ( !!!(es(la(distribución(en(el(tiempo(n+2;(( ( !!!(es(la(distribución(en(el(tiempo(n+3…(
CADENA DE MÁRKOV
CADENA DE MÁRKOV
Ejercicio 1: Dado que el día de hoy es soleado, cual es la probabilidad que mañana sea soleado y el siguiente día lluvioso
CADENA DE MÁRKOV
Ejercicio 2: Dado que el día de hoy es nublado, cual es la probabilidad que en dos días sea lluvioso
MODELO DE MÁRKOV OCULTO
MODELO DE MÁRKOV OCULTO
Ejercicio: Se encerró un día soleado, el siguiente día el cuidador tuvo una sombrilla. ¿Cuál es la probabilidad que el siguiente día sea lluvioso?
MODELO DE MÁRKOV OCULTO
Definición formal:
Valores observables
Πi probab que el estado inicial sea Qi
probab de las observaciones
MODELO DE MÁRKOV OCULTO
Definición formal:
MODELO DE MÁRKOV OCULTO
Arquitectura:
MODELO DE MÁRKOV OCULTO
Obtención de los parámetros del modelo:
MODELO DE MÁRKOV OCULTO
Existen tres problemas canónicos asociados con HMM: 1. Dados los parámetros del modelo, compútese la probabilidad de una secuencia
de salida en particular. Este problema se resuelve con el algoritmo de avance-retroceso.
2. Dados los parámetros del modelo, encuéntrese la secuencia más probable de estados ocultos que puedan haber generado una secuencia de salida dada. Este problema se resuelve con el algoritmo de Viterbi.
3. Dada una secuencia de salida o un conjunto de tales secuencias, encuéntrese el conjunto de estados de transición y probabilidades de salida más probables. En otras palabras, entrénense a los parámetros del HMM dada una secuencia de datos. Este problema se resuelve con el algoritmo de Baum-Welch.
MODELO DE MÁRKOV OCULTO
La probabilidad de una secuencia de salida en particular.
MODELO DE MÁRKOV OCULTO
La probabilidad de una secuencia de salida en particular.
MODELO DE MÁRKOV OCULTO
La probabilidad de una secuencia de salida en particular.
MODELO DE MÁRKOV OCULTO
La probabilidad de una secuencia de salida en particular.
MODELO DE MÁRKOV OCULTO
La secuencia más probable de estados ocultos
MODELO DE MÁRKOV OCULTO
La secuencia más probable de estados ocultos
MODELO DE MÁRKOV OCULTO
Problema de entrenamiento: Encontrar el conjunto de estados de transición y probabilidades de salida más probables. Algoritmo de Baum-Welch.
MODELO DE MÁRKOV OCULTO
Problema de entrenamiento: Algoritmo de Baum-Welch.
MODELO DE MÁRKOV OCULTO
Problema de entrenamiento: Algoritmo de Baum-Welch.
MODELO DE MÁRKOV OCULTO
Problema de entrenamiento: Algoritmo de Baum-Welch.
MODELO DE MÁRKOV OCULTO
Problema de entrenamiento: Algoritmo de Baum-Welch.
APLICACIONES DEL HMM
RECONOCIMIENTO DE LA VOZ:
CLASIFICADOR GAUSSIANO O ANN
DEPENDE DE LA PRONUNCIACION
APLICACIONES DEL HMM
• Reconocimiento de la voz, gestos, escritura manual. • Etiquetado gramatical (Traducción) • Criptoanálisis • Bioinformática y genómica (predecir zonas que
codifiquen proteinas en el ADN, modelar familias protéicas, predecir estructuras)
• Seguimiento de partituras musicales
HERRAMIENTAS PARA DESARROLLO DE HMM
1. Hidden Markov Model (HMM) Toolbox for Matlab 2. Jahmm - Hidden Markov Model (HMM) en Java 3. Mathworks stats toolbox 4.1 4. GNU HMM toolbox 5. Bayes-Net-Toolkit / HMM para Matlab 6. PMT para Matlab 7. HHpred (bioinformática) 8. AK toolkit
RECONOCIMIENTO DEL HABLA 1. Hidden Markov Model Toolkit (HTK) 2. Discrete HMM toolkit en C++
PRESENTACION DE ARTICULOS
PROBLEMA:
Myocardial infarction classification with multi-lead ECG using hidden Markov models and Gaussian mixture models
Myocardial infarction classification with multi-lead ECG using hidden Markov models and Gaussian mixture models
UTILIZAN EL ALGORITMO DE K MEDIAS Y DE BAUM-WELCH
Myocardial infarction classification with multi-lead ECG using hidden Markov models and Gaussian mixture models
CUANDO ESTA ENTRENADO, USAN EL PROCEDIMIENTO AVANCE- RETROCESO PARA EL CALCULO DE LA VEROSIMILITUD DE CADA COMPLEJO QRS
USO DEL ALGORITMO DE VITERBI
Myocardial infarction classification with multi-lead ECG using hidden Markov models and Gaussian mixture models
1129 Latidos evaluados: 582 con infarto y 547 normales. (pruebas 100 y 100, el resto entrenamiento) Cada experimento fue probado 30 veces
Base de datos: Long-Term ST Database en PhysioBank 50 secuencias, la mitad de entrenamiento Algoritmo de Baum-Welch Algoritmo de avance-retroceso para comparaciones
An approach to determine myocardial ischemia by hidden Markov models
BIBLIOGRAFIA
1. L. Rabiner, “A tutorial on hidden Markov models and selected applications in speech recognition,” Proceedings of the IEEE, vol. 77, no. 2, pp. 257–286, Feb. 1989.
2. H. Stark, J. W. Woods, and H. Stark, Probability, statistics, and random processes for engineers. Boston: Pearson, 2012.
3. J. A. Gubner and Cambridge University Press, Probability and random processes for electrical and computer engineers. Cambridge: Cambridge University Press, 2006.
4. S. Graja and J.-M. Boucher, “Hidden Markov tree model applied to ECG delineation,” IEEE Transactions on Instrumentation and Measurement, vol. 54, no. 6, pp. 2163–2168, Dec. 2005.
5. L. Bergasa, Introducción a los modelos ocultos de Márkov. Dpto de Electrónica, Universidad de Alcalá. March. 2006
6. X. Tang, L. Xia, W. Liu, Y. Peng, T. Gao, and Y. Zeng, “An approach to determine myocardial ischemia by hidden Markov models,” Comput Methods Biomech Biomed Engin, vol. 15, no. 10, pp. 1065–1070, 2012.
7. P.-C. Chang, J.-J. Lin, J.-C. Hsieh, and J. Weng, “Myocardial infarction classification with multi-lead ECG using hidden Markov models and Gaussian mixture models,” Applied Soft Computing, vol. 12, no. 10, pp. 3165–3175, Oct. 2012.