Implementación del Método Predict en Naive Bayes Clasificador

Curso de Algoritmos de Clasificación de Texto

Contenido del curso

Desambiguación y etiquetado de palabras

Modelos Markovianos Latentes (HMM)

Algoritmo de Viterbi

Modelos Markovianos de máxima entropía (MEMM)

Clasificación de texto con NLTK

Implementación de un modelo de clasificación de texto

Tomar examen

Cursos Empresas Blog Live Conf Eventos Precios

0:0013:40

Implementación del Método Predict en Naive Bayes Clasificador

Curso de Algoritmos de Clasificación de Texto

Clase 24 de 26

Clase 24 / 26

Recursos

¿Cómo implementar un clasificador de Naive Bayes en Python?

En el fascinante mundo del machine learning, implementar desde cero un algoritmo nos permite comprender en profundidad cómo funciona realmente. En esta ocasión, veremos cómo terminar de desarrollar un clasificador Naive Bayes con suavizado de Laplace en Python. Este algoritmo es vital para tareas de clasificación de texto y es conocido por su simplicidad y eficacia.

¿Qué es el suavizado de Laplace?

El suavizado de Laplace, también conocido como suavizado laplaciano, es una técnica utilizada para gestionar la cero probabilidad en la clasificación. Cuando una palabra del dataset de prueba no aparece en el conjunto de entrenamiento, las probabilidades se ajustan ligeramente para evitar multiplicar por cero. La fórmula añade uno al contador de cada palabra, lo que permite a todas las palabras tener al menos una pequeña probabilidad.

¿Cómo programamos el método predict?

El método predict es crucial, ya que nos permite hacer predicciones utilizando un modelo ya entrenado. Su implementación se basa en los siguientes pasos:

Tokenización: Dividimos cada texto en palabras o tokens únicos sobre los que evaluaremos las probabilidades.
Cálculo del score de probabilidades: Para cada clase, calculamos una puntuación basada en la probabilidad condicional calculada.
Validación del vocabulario: Ignoramos las palabras que no están en el vocabulario entrenado, pues no podemos calcularles una probabilidad.
Aplicación del suavizado de Laplace: Usamos el conteo de palabras por categoría y el tamaño del vocabulario para calcular probabilidades logarítmicas con suavizado.
Selección de la máxima probabilidad: Finalmente, mediante la función argmax de NumPy, determinamos cuál es la clase más probable para cada texto.

def predict(self, data):
    results = []
    for text in data:
        words = set(self.tokenize(text))
        scores = {c: 0 for c in self.classes_}

        for word in words:
            if word not in self.vocab_:
                continue
            for c in self.classes_:
                word_probability = math.log(
                    (self.word_counts_[c].get(word, 0) + 1) / 
                    (self.class_count_[c] + len(self.vocab_))
                )
                scores[c] += word_probability
        
        best_score = max(scores, key=scores.get)
        results.append(best_score)
    return results

¿Cómo evaluar el desempeño del modelo?

Para verificar la eficacia del modelo, utilizamos el método train_test_split de Scikit Learn para dividir nuestro dataset en conjuntos de entrenamiento y prueba. Esto nos ayuda a evitar sesgos y garantiza que el modelo aprenda correctamente.

Después del entrenamiento con el método fit, evaluamos el modelo con accuracy_score, también de Scikit Learn. Esta métrica nos indica qué tan bueno es el modelo en términos de precisión.

from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score

# Datos de entrenamiento y prueba
data_train, data_test, classes_train, classes_test = train_test_split(
    data, classes, test_size=0.1, random_state=42)

# Entrenar modelo
classifier = NaiveBayesClassifier()
classifier.fit(data_train, classes_train)

# Predecir y evaluar
predictions = classifier.predict(data_test)
accuracy = accuracy_score(classes_test, predictions)
print(f'Accuracy: {accuracy * 100:.2f}%')

Con un accuracy del 85%, el modelo demuestra ser efectivo, considerándolo un buen indicador del correcto funcionamiento del algoritmo que hemos desarrollado desde cero.

Motivación para seguir aprendiendo

El logro de implementar y ajustar un algoritmo de clasificador Naive Bayes desde cero es una de las experiencias más gratificantes en machine learning. No solo se trata de escribir código, sino de comprender profundamente cómo los conceptos matemáticos subyacen a funciones vitales.

Estamos en el camino correcto para dominar el análisis de texto y la clasificación de datos. No dejes que los errores interrumpan tu progreso; cada uno de ellos es una piedra más en tu camino hacia el aprendizaje. Recuerda, conocer minuciosamente un algoritmo te capacita para abordar otros algoritmos usando la misma filosofía de aprendizaje. ¡Sigue explorando y perfeccionando tus habilidades!

Gabriel Obregón

Hace un año

🧠 FICHA VISUAL: Clasificador Naive Bayes en Python

🔍 1. ¿Qué es y para qué sirve?

Naive Bayes es un algoritmo de clasificación probabilística basado en el teorema de Bayes, ideal para tareas de análisis y clasificación de texto. Se llama “naive” porque asume independencia entre las palabras o características.

✨ Ventajas principales:

🚀 Rápido y eficiente con grandes volúmenes de texto
🧩 Sencillo de implementar
🎯 Sorprendentemente preciso en tareas reales

🧮 2. Concepto clave: Suavizado de Laplace

💡 Problema: Cuando una palabra aparece en el texto de prueba pero no en el entrenamiento → su probabilidad es cero, lo que anula todo el cálculo.

🧷 Solución: Aplicar suavizado de Laplace → también llamado “añadir uno”.

📘 Fórmula conceptual:

(conteo_palabra_en_clase + 1) / (total_palabras_en_clase + tamaño_vocabulario)

✅ Así, todas las palabras tienen una pequeña probabilidad no nula, incluso las desconocidas.

🔎 Ejemplo mental: Si nunca viste la palabra “galaxia”, el modelo no la ignora, sino que le asigna una probabilidad muy pequeña.

⚙️ 3. Implementación del método predict

🧩 Flujo general:

✂️ Tokenizar: dividir el texto en palabras.
📊 Inicializar puntajes: asignar un puntaje (en log) a cada clase.
🚫 Ignorar palabras desconocidas.
➕ Aplicar suavizado: usar (conteo + 1) / (total + vocabulario).
🏁 Elegir la clase con mayor puntaje.

📈 4. Evaluación del modelo

🎯 Objetivo: Medir qué tan bien clasifica el modelo con datos que no ha visto antes.

🧪 Procedimiento paso a paso:

🔀 Dividir datos: entrenamiento y prueba.
🧠 Entrenar el modelo: con el método fit().
📊 Predecir: usando predict().
🧮 Medir precisión: con accuracy_score().

Desambiguación y etiquetado de palabras

Clasificación de Texto con Machine Learning

Etiquetado de Palabras en Python con NLTK y Stanza

Uso de Stanza para Procesamiento de Lenguaje Natural en Español

Modelos Markovianos Latentes (HMM)

Modelos Marcovianos Latentes en PLN: Fundamentos y Aplicaciones

Matemáticas de Cadenas de Markov y su Aplicación en Modelos Latentes

Modelos Marcovianos Latentes: Etiquetado Gramatical Automático

Implementación de Modelos Marcovianos Latentes en Python con Google Colab

Entrenamiento de Modelos Marcobianos Latentes en Python

Algoritmo de Viterbi

Decodificación de Secuencias con el Algoritmo de Viterbi

Cálculo de Probabilidades en el Algoritmo de Viterbi

Implementación del Algoritmo de Viterbi en Python con NumPy

Implementación del Algoritmo Viterbi para Modelos Ocultos de Markov

Implementación de Modelos Ocultos de Markov en NLTK y Python

Modelos Markovianos de máxima entropía (MEMM)

Modelos Marcovianos de Máxima Entropía en Clasificación de Etiquetas

Algoritmo BiTerbi en Modelos de Máxima Entropía

Entrenamiento y Decodificación de Modelos Marcobianos en Bitterbi

Clasificación de texto con NLTK

Clasificación de Texto en Machine Learning: Teorías y Aplicaciones

Clasificación de Nombres por Género con NLTK en Python

Clasificación de Nombres con Naive Bayes en Python

Clasificación de correos: Filtrado de spam con Naive Bayes

Implementación de un modelo de clasificación de texto

Funcionamiento Matemático del Clasificador Naive Bayes

Preparación de Datos para Modelo Naive Bayes en Python

Implementación del Algoritmo Naive Bayes en Python con spaCy

Implementación del Método Predict en Naive Bayes Clasificador

Métricas de Evaluación en Modelos de Clasificación: Accuracy, Precision y Recall

Clasificación de Sentimientos con Reviews de Amazon

Implementación del Método Predict en Naive Bayes Clasificador