Probando nuestro algoritmo entrenado en un set de datos nuevos

Clase 26 de 32 • Curso de Introducción a Machine Learning 2018

Junior Cupe Casquina

student•

# Requirements
#   pip install matplotlib
#   pip install python-mnist
#   pip install scikit-learn

from mnist import MNIST
from sklearn.model_selection import train_test_split
from sklearn.tree import DecisionTreeClassifier
from sklearn.ensemble import RandomForestClassifier
from sklearn.metrics import confusion_matrix
from matplotlib import pyplot
import numpy


def evaluate_classifier(classifier, t_data, t_labels):
    prediction = classifier.predict(t_data)
    c_matrix = confusion_matrix(t_labels, prediction)
    return c_matrix


def generate_score(c_matrix):
    return (c_matrix.diagonal().sum() * 100.) / c_matrix.sum()


# define and load data from path
mnData = MNIST('/path/to/data')
data, labels = mnData.load_training()

# split data to train
train_data, test_data, train_labels, test_labels = train_test_split(data, labels, test_size=0.3, random_state=46)

# Decision Tree
dt_classifier = DecisionTreeClassifier()
dt_classifier.fit(train_data, train_labels)
cm = evaluate_classifier(dt_classifier, test_data, test_labels)
print(cm)
score = generate_score(cm)
print(score)

# Random Forest
rf_classifier = RandomForestClassifier(n_estimators=150, min_samples_split=2)
rf_classifier.fit(train_data, train_labels)
cm2 = evaluate_classifier(rf_classifier, test_data, test_labels)
print(cm2)
score2 = generate_score(cm2)
print(score2)

#
test_data, test_labels = mnData.load_testing()
predicted = rf_classifier.predict(test_data)
cm3 = evaluate_classifier(rf_classifier, test_data, numpy.array(test_labels))
print(cm3)
score3 = generate_score(cm3)
print(score3)

# see digit
digit = test_data[6]

digit_float = numpy.array(digit, dtype="float")
pixels = digit_float.reshape((28, 28))
pyplot.imshow(pixels, cmap='gray')
pyplot.show()
print(rf_classifier.predict([test_data[6]]))

Luis Carlos Parra Raffán

student•

Una vez que ya tengo entrenada una máquina, cómo puedo ponerla en producción, o más bien cómo puedo integrarla a un proyecto ya construido.

Cómo podría lleagr a ser esto por ejemplo un API ?

Néstor Fabián Gonzalez

student•

No tengo mucha experiencia con Python, pero una buena alternativa es lanzar un contenedor de Docker que ejecute tu servicio de ML con Flask (A Python Microframework) mediante el cual publicas las API’s que serán consumidas por tu proyecto ya construido. En el siguiente repo puedes ver un ejemplo de Flask con Pandas https://github.com/frojas-gfourmis/flask-pandas-elasticbeanstalk-example

Darvin Orozco

student•

Muy buena pregunta (estaba por hacerla) y mejor respuesta, gracias amigos!

José Ricardo Romo Gutiérrez

student•

como se puede exportar esta maquina ya entrenada para usarla en otro ámbito y no tener que entrenarla cada vez que se quiera usar?

Pedro Quiñonez Verdugo

student•

# Requirements
#   pip install matplotlib
#   pip install python-mnist
#   pip install scikit-learn

import numpy as np
from matplotlib import pyplot as plt
from mnist import MNIST
from sklearn.model_selection import train_test_split
from sklearn.tree import DecisionTreeClassifier
from sklearn.ensemble import RandomForestClassifier
from sklearn.metrics import confusion_matrix


def evaluate_classifier(classifier, t_data, t_labels):
    prediction = classifier.predict(t_data)
    c_matrix = confusion_matrix(t_labels, prediction)
    return c_matrix


def generate_score(c_matrix):
    return (c_matrix.diagonal().sum() * 100.) / c_matrix.sum()


# define and load data from path
mnData = MNIST('MNIST_data')
data, labels = mnData.load_training()

# split data to train
train_data, test_data, train_labels, test_labels = train_test_split(data, labels, test_size=0.3, random_state=46)

# Decision Tree
dt_classifier = DecisionTreeClassifier()
dt_classifier.fit(train_data, train_labels)
cm = evaluate_classifier(dt_classifier, test_data, test_labels)
print("Clasificador decision Tree:", cm)
score = generate_score(cm)
print("Score decision tree:", score)

# Random Forest
rf_classifier = RandomForestClassifier(n_estimators=150, min_samples_split=2)
rf_classifier.fit(train_data, train_labels)
cm2 = evaluate_classifier(rf_classifier, test_data, test_labels)
print("Clasificador Random Forest:", cm2)
score2 = generate_score(cm2)
print("Score Random Forest:", score2)

# Probando nuestro algoritmo entrenado en un set de datos nuevos

#cargamos los datos de evaluacion del MNIST
test_data, test_labels =mnData.load_testing()

# aplicamos el clasificador a todo e dataset de evaluacion y obtenemos el accuracy
predicted = rf_classifier.predict(test_data)

# evaluamos los resultados con la matriz de confusion para el dataset de evaluacion
mc = evaluate_classifier(rf_classifier, test_data, np.array(test_labels))

print("MC:", mc)

#score
score = mc.diagonal().sum()*100/mc.sum()
print("Score:", score)

digitextra = test_data[7]
d = np.array(digitextra, dtype='float')
pixels = d.reshape((28,28))
plt.imshow(pixels, cmap='gray')
plt.show()

print("La red neuronal predice que es un numero: ",rf_classifier.predict([test_data[7]]))

Alejandro Cuello Maure

student•

si yo hago un numero en mi cuaderno y lo paso a este algoritmo puede reconocerlo? o solo se limita a los datos del MNIST.

Tomás Haberkon

student•

Cuando divide por

MC.sum()

eso es la suma de toda la matriz? Eso es porque acá no hay falsos ni verdaderos negativos y por eso se aplica bien la fórmula de las clases anteriores?: VP / ( Vp + FP )

Jesús Josemaría Cama Raymundo

student•

Exacto, es la suma de todos los números de la matriz. Esto abarca verdaderos positivos y falsos positivos.

José Manuel Quijada Chacón

student•

¿Comó puedo utilizar otras imagenes para entrenar la IA?

Osmandi Gomez

student•

En internet hay muchos datasets de imágenes, un banco de ellas las puedes encontrar en deeplearning.net/datasets/

Probando nuestro algoritmo entrenado en un set de datos nuevos

Intro

Bienvenidos al Curso de Introducción a Machine Learning

Introducción al Machine Learning

Glosario de palabras técnicas

Conceptos Básicos

Conceptos básicos: Inteligencia artificial, Machine Learning y Deep Learning

Inteligencia artificial, Machine Learning y Deep Learning

Inteligencia Humana y Artificial

Machine Learning, Redes Neuronales Artificiales y Aprendizaje Profundo

Ciencias de Datos

Set de Datos

TUTORIAL PROYECTO: Trabajando con datos

Instalación de Jupyter Notebook

SciKit Learn: tutorial básico

Introducción a Datos y Set de Datos

Proyecto: Trabajando con datos

Modelos de ML

Tipos de Machine Learning y modelos principales

Introducción al aprendizaje supervisado y no supervisado

Machine Learning Supervisado Algoritmos: Regresión Lineal, Logísticay Naive Bayes

Machine Learning Supervisado Algoritmos: K-Nearest Neighbors, Decision Tree, Random Forest, y Redes Neuronales

Proyecto Machine Learning Supervisado: práctica con algoritmo de Decision Tree y Random Forest

Machine Learning No Supervisado: Algoritmos

Proyecto de Machine Learning no Supervisado: aplicando algoritmo k-means

Evaluación

Introducción a la evaluación del modelo entrenado

Evaluando nuestro algoritmo entrenado

Matriz de confusión, precisión y recall

Otras evaluaciones: Error cuadrático medio

Proyecto de Machine Learning Supervisado: aplicando la matriz de confusión a nuestro algoritmo entrenado

Probando nuestro algoritmo entrenado en un set de datos nuevos

ML y Matemáticas

Machine Learning y Cálculo / Reto

Introducción al Machine Learning y Matemáticas

Machine Learning y Álgebra Lineal

Machine Learning y Probabilidad y Estadística

Conceptos Finales

Revisión de los pasos seguidos en el proyecto

Recomendaciones y despedida