Matemáticas de Cadenas de Markov y su Aplicación en Modelos Latentes

Curso de Algoritmos de Clasificación de Texto

Contenido del curso

Desambiguación y etiquetado de palabras

Modelos Markovianos Latentes (HMM)

Algoritmo de Viterbi

Modelos Markovianos de máxima entropía (MEMM)

Clasificación de texto con NLTK

Implementación de un modelo de clasificación de texto

Tomar examen

Cursos Empresas Blog Live Conf Eventos Precios

0:008:43

Matemáticas de Cadenas de Markov y su Aplicación en Modelos Latentes

Curso de Algoritmos de Clasificación de Texto

Clase 5 de 26

Clase 5 / 26

Recursos

¿Qué son las cadenas de Markov?

Las cadenas de Markov son una herramienta clave en el modelado matemático que nos permite entender cómo suceden ciertos eventos de manera secuencial y probabilística en el tiempo. Son fundamentales para diversos modelos, entre ellos, los etiquetadores de palabras en procesamiento del lenguaje natural. Un aspecto esencial de las cadenas de Markov es su capacidad para predecir el siguiente estado basado únicamente en el estado actual, sin tener en cuenta cómo llegó a ese estado.

¿Cuáles son los ingredientes fundamentales de una cadena de Markov?

Matriz de transición de estados: Este es el núcleo de las cadenas de Markov. Cada elemento de la matriz representa la probabilidad de transición entre diferentes estados. Imagina que queremos predecir el clima: si hoy está cálido, ¿cuál es la probabilidad de que mañana esté frío o tibio?

| Estado Inicial \ Estado Siguiente | Frío | Caliente | Tibio |
|-----------------------------------|------|----------|-------|
| Frío                              |      |          |       |
| Caliente                          |      |          |       |
| Tibio                             |      |          |       |

Vector de distribución de probabilidades: Este vector representa las probabilidades de encontrar el sistema en cada uno de los estados inicialmente. Por ejemplo, hoy puede haber un 40% de probabilidad de que haga frío, un 20% de que esté caliente y un 40% de que esté tibio.

¿Cómo se calculan las probabilidades de transición?

Definir las probabilidades de transición es crucial para crear una cadena de Markov precisa. Considera una secuencia de climas observados durante cinco días: frío, frío, tibio, caliente, caliente. Para calcular la probabilidad de ciertas transiciones, como pasar de tibio a caliente, se usan conceptos como la probabilidad condicional. Se observa cuántas veces ocurre la transición específica sobre el total de días posibles.

Probabilidad de transición: Se determina dividiendo la cantidad de transiciones observadas entre la cantidad total de posibles transiciones. Por ejemplo, si en cinco días solo una transición fue de tibio a caliente, y hubo cinco transiciones en total, la probabilidad es ( \frac{1}{5} = 0.2 ) o 20%.

¿Cómo se construye la matriz de transición?

Para construir la matriz de transición, ubica los estados posibles (frío, caliente, tibio) en las filas y columnas. Cada posición en la matriz indica la probabilidad de transición de un estado a otro. Usa las observaciones y cálculos previos para llenar cada posición.

¿Qué es un modelo marcoviano latente?

El modelo marcoviano latente, conocido en inglés como Hidden Markov Model (HMM), es una extensión de las cadenas de Markov. Este modelo introduce secuencias ocultas que no son directamente observables. Por ejemplo, en un proceso de etiquetado de texto, la secuencia visible podría ser "Pedro es ingeniero", mientras que la secuencia oculta o latente sería "sustantivo verbo sustantivo". El objetivo del HMM es descubrir o inferir esta secuencia oculta a partir de datos observables.

¿Cómo se aplican las cadenas de Markov en el modelado predictivo?

Mediante la multiplicación de la matriz de transición por el vector inicial de probabilidades, se pueden calcular las probabilidades para estados futuros. Por ejemplo, si hoy las probabilidades son un 40% de frío, un 20% de calor y un 40% de tibio, tras aplicar la matriz de transición, esas probabilidades cambian para el día siguiente. Este es un proceso fundamental en el modelado predictivo y se usa en áreas como el modelado del clima y la predicción de estados en sistemas dinámicos.

¿Cuál es el vínculo entre las cadenas de Markov y el aprendizaje de máquinas?

Las cadenas de Markov y los modelos marcovianos latentes son esenciales en el ámbito del aprendizaje de máquinas para procesar secuencias temporales. Permiten realizar inferencias y predicciones basadas en una serie de datos observables. Esto es particularmente útil en modelos de lenguaje natural, análisis de secuencias de ADN y más.

Finalmente, entender las cadenas de Markov y sus aplicaciones abre un abanico de oportunidades en análisis predictivo y modelado de sistemas complejos. Exploremos más y sigamos descubriendo el potencial de estos modelos en nuestras próximas lecciones. ¡El aprendizaje nunca se detiene!

Comentarios (17)17 comentarios

Robert Jarod Meza Garcia

Hace 6 años

Se ve genial el punto en donde da la explicación del uso de los modelos Markovianos en el etiquetado de palabras. Algo que encontré y me sirvió mucho es la siguiente definición.

La cadena de Markov es una serie de eventos, en la que la probabilidad de que ocurra un evento depende del evento anterior. Este tipo de cadenas tienen memoria.

Luis Fernando Úbeda Camacho

Increible como se puede explicar algo que parece bastante complejo a primera vista de una manera tan sencilla. Increíble profesor!!!!!

Alexander carpio mamani

rusbel bermúdez rivera

Quiza se fue la C de mas con la emocion que nos infunde Pacho, porque tenemos 5 dias , pero tenemos 6 datos de temperatura.

Kenny Emmanuel Lajara Aquino

No es una C de más. Hay 6 datos de temperatura porque se toma la temperatura inicial más la temperatura de los otros 5 días que pasaron

Kenny José Miranda Deluque

Hace 5 años

import numpy as np

def probabilities(vec:list , ev_a: str, ev_b: str):
  n = len(vec) - 1
  i = [idx for idx, val in enumerate(vec) if val == ev_a]
  num = len([count for count, val in enumerate(i) if val+1 < len(vec) and vec[val+1] == ev_b])
  p_num = num/n
  den = len([count for count, val in enumerate(i) if val < len(vec)-1])
  p_den = den/n
  return p_num / p_den

def matriz_trans(dic: dict, vec: list):
  res = []
  for k, v in dic.items():
    res.append([probabilities(vec, k, key) for key in dic.keys()])
  res_out = np.array(res)
  return res_out

def pi_1(pi_0: list, matrix: np.array):
  return pi_0 @ matrix

pi_1([0.4,0.2,0.4], matriz_trans(dict_day_temp, h0))
array([0.2, 0.6, 0.2])

Felipe Sebastián Zepeda González

Hace 3 años

Me parece que hay alguna clase de error con la notación y/o uso de las fórmulas en esta clase. La razón es la siguiente:

Para obtener la matriz de transicición el profesor usa la fórmula de probabilidad condicional, que dice P(A | B) = P(B,A)/P(B), donde además sabemos por teoría que P(A,B)= P(B, A) (Notar que eso se usa para demostrar el teorema de Bayes). Si fuera el caso de que realmente debemos usar la fórmula de probabilidad condicional para obtener la matriz de transición, entonces debería cumplirse siempre que P(3,2)= P(2, 3), lo cual no es cierto según lo que desarrolla el profesor [P(3,2) = 1/5 y P(2,3) = 0].

Encontré una forma más intuitiva de entender esto acorde con la teoría standard en estadística por medio de esta fuente:

Salu2!

Fabian Villada

Hace 2 años

Concuerdo.

En el documento que compartes halla la matriz de eventos concurrentes y luego la normaliza por fila para obtener la matriz de probabilidad de Markov

Normalizar por fila implica dividir cada elemento de la fila por el numero total de susesos que tiene la fila

Rodrigo Schneer

Viendo en Platzi Day, día Domingo 1:07 am 28 de Marzo 2.021. Muchas Gracias a Team Platzi y en especial al profesor Francisco Camacho!

Juan Jose Tovar

Amigos de master recomiendo antes de tomar este curso haberse visto el de Matemáticas para DS: Probabilidad, también dicatado por Francisco https://platzi.com/clases/ds-probabilidad/

Por si quieren dar el extra se pueden hacer el 10 days of statistics de HACKER RANK

Kevin Naranjo

Hola Francisco en el podcast hablaste sobre la importancia de usar docker como harías para crear tus proyectos con contenedores de una manera sencilla

Daniel Sirlupu

Muy buena explicación de las cadenas de Markov.

Donovan Villanueva

Hace un año

Esta fue la peor explicación de un modelo de markov que he visto en mi vida. Dios mio.

Jhon Freddy Tavera Blandon

Aplicaciones de los Modelos Ocultos de Markov

Los HMM tienen aplicaciones en diversas áreas, donde los estados subyacentes no se observan directamente pero las observaciones proporcionan pistas sobre estos. Algunas aplicaciones incluyen:

Reconocimiento de voz: En el reconocimiento de voz, las secuencias de audio (observaciones) son generadas por un modelo subyacente de fonemas (estados ocultos).
Etiquetado de secuencias en lenguaje natural: Para etiquetar las partes del discurso (sustantivos, verbos, adjetivos, etc.) de una oración, los estados ocultos son las etiquetas gramaticales y las palabras observadas son las emisiones.
Bioinformática: Los HMM se utilizan en secuenciación genética para modelar regiones ocultas de ADN que generan observaciones.
Detección de fraudes: En la detección de fraudes, los estados ocultos podrían representar comportamientos normales o fraudulentos, y las transacciones financieras son las observaciones.

Romel Manrique

El concepto de caena markoviana también se utiliza en el aprendizaje no supervisado por reforzamiento, específicamente el q-learning,

Humberto Guardado

Hace 4 años

es posible que pueda usar modelos parecidos a los de markov, en el caso que quiera anticipar la probabilidad que el idioma que estudio, tenga la misma etiqueta que el idioma con que lo traduzco.... se ve bien, a donde me ha llevado todo esto

Carlos Daniel Pimentel Díaz

Efectivamente, cuando construye la Matriz de Transición de Estados en el minuto 5:58, el valor de C_3,1 es 1 (como dice el profesor) y no 1/2 (como lo muestra el video). En este sentido, la respuesta correcta de las probabilidades resultantes del día siguiente son [0.2, 0.6, 0.4] y NO [0.2, 0.6, 0.2] como aparece en el video.

Jose Daniel Gallegos Padilla

Esta observando esa parte y creo que la matriz si esta correcta, solo que francisco se equivoco.

la probabilidad de la intersección de frio a tibio es P(1∩3) = 1/5 La probabilidad de ser un dia fria es P(1) = 2/5 Por lo tanto P(3|1) = P(1∩3) / P(1) = (1/5) / (2/5) = 1/2

Saludos.

Camilo Romero

Debe ser 1/2 ya que la suma por columnas en todas las filas debe ser igual a 1

Francisco Garcia [C6]

que bien

Marcelo Sánchez

Esta clase estuve genial, ver como eventos previos pueden ser estimados a través de una secuencia me recuerda a las máquinas de estados vistas en los conceptos básicos de la electrónica digital.

Desambiguación y etiquetado de palabras

Clasificación de Texto con Machine Learning

Etiquetado de Palabras en Python con NLTK y Stanza

Uso de Stanza para Procesamiento de Lenguaje Natural en Español

Modelos Markovianos Latentes (HMM)

Modelos Marcovianos Latentes en PLN: Fundamentos y Aplicaciones

Matemáticas de Cadenas de Markov y su Aplicación en Modelos Latentes

Modelos Marcovianos Latentes: Etiquetado Gramatical Automático

Implementación de Modelos Marcovianos Latentes en Python con Google Colab

Entrenamiento de Modelos Marcobianos Latentes en Python

Algoritmo de Viterbi

Decodificación de Secuencias con el Algoritmo de Viterbi

Cálculo de Probabilidades en el Algoritmo de Viterbi

Implementación del Algoritmo de Viterbi en Python con NumPy

Implementación del Algoritmo Viterbi para Modelos Ocultos de Markov

Implementación de Modelos Ocultos de Markov en NLTK y Python

Modelos Markovianos de máxima entropía (MEMM)

Modelos Marcovianos de Máxima Entropía en Clasificación de Etiquetas

Algoritmo BiTerbi en Modelos de Máxima Entropía

Entrenamiento y Decodificación de Modelos Marcobianos en Bitterbi

Clasificación de texto con NLTK

Clasificación de Texto en Machine Learning: Teorías y Aplicaciones

Clasificación de Nombres por Género con NLTK en Python

Clasificación de Nombres con Naive Bayes en Python

Clasificación de correos: Filtrado de spam con Naive Bayes

Implementación de un modelo de clasificación de texto

Funcionamiento Matemático del Clasificador Naive Bayes

Preparación de Datos para Modelo Naive Bayes en Python

Implementación del Algoritmo Naive Bayes en Python con spaCy

Implementación del Método Predict en Naive Bayes Clasificador

Métricas de Evaluación en Modelos de Clasificación: Accuracy, Precision y Recall

Clasificación de Sentimientos con Reviews de Amazon

Matemáticas de Cadenas de Markov y su Aplicación en Modelos Latentes