La clasificación es un tipo de Machine Learning supervisado. Esto significa que para entrenar un modelo necesitamos un conjunto de datos (dataset) que ya tenga etiquetas (labels) para poder entrenar nuestros modelos. La mejor forma de pensar en algoritmos de clasificación es pensar en el sombrero clasificador de Harry Potter. Cuando un nuevo alumno de Hogwarts entra a la escuela es necesario asignarlo/clasificarlo en una de las 4 casas. El sombrero obtiene los datos cuando se lo coloca el alumno y define cuál es el mejor match para su caso particular. Aquí estamos asumiendo que el sombrero es un algoritmo que ya ha sido entrenado y que los alumnos son nuevos data points que tienen que ser clasificados.
Clasificadores lineales
Estos tipos de clasificadores se distinguen porque dividen el conjunto de datos con una línea (que puede ser multidimensional dependiendo de la cantidad de features que hemos utilizado para definir a nuestros datos). Esto genera áreas dentro de nuestro espacio de búsqueda para que cuando coloquemos un nuevo dato podamos clasificarlo fácilmente. El problema con este tipo de modelos es que son pocos flexibles cuando el conjunto de datos no puede ser separado fácilmente con una simple línea; por ejemplo, cuando necesitáramos una figura más compleja para dividirlo (como un polígono).
Regresión logística
Estos algoritmos se parecen mucho a los clasificadores lineales, con la diferencia de que no se divide simplemente con una línea, sino con un gradiente que determina la probabilidad de que un punto pertenezca a una categoría u otra. Es decir, la gradiente determina la probabilidad de que un punto sea asignado a una categoría y mientras un dato se aleje más en una dirección será mayor la probabilidad de que pertenezca a una categoría. Imagina que estos algoritmos generan un área difusa en la que no estamos seguros de la clasificación y un área clara en la que tenemos un alto grado de certeza en cuanto a la categoría que pertenece un punto.
Nearest neighbor
Los modelos que utilizan nearest neighbor se apoyan de los datos que ya han sido clasificados para determinar la distancia entre sus "vecinos más cercanos." El algoritmo más común que utiliza esta técnica se llama K-nearest neighbors y la K representa el número de vecinos que se utilizarán para clasificar los datos. En pocas palabras, se identifican los datos más cercanos y en el caso más sencillo se hace una votación simple (por ejemplo, 5 azules, 2 rojos, por lo tanto azul). Una característica de estos modelos es que "dibujan" una línea que se asemeja a una costa para clasificar los datos. Mientras K sea más grande la "línea costera" se alisa y se asemeja más y más a una línea simple. Por lo tanto, la definición de K tiene un impacto importante en el desempeño de nuestro algoritmo de clasificación.
Support Vector Machines
Estos algoritmos se diferencian por tener la habilidad de generar figuras complejas (polígonos) que pueden agrupar datos. Si la figura que tendríamos que dibujar para dividir nuestros datos es diferente a una línea (círculos, polígonos, etc.), entonces estos modelos son una buena opción.
Árboles de decisión
Este tipo de algoritmos nos permiten generar una árbol que tenemos que recorrer y tomar decisiones cada vez que avanzamos en un nivel. Por ejemplo:
Conclusiones
Recuerda que la decisión de qué algoritmo utilizar depende de la forma en la que tengas tus datos y la precisión que desees obtener (a cambio de excluir o incluir falsos positivos y negativos). Otro punto a considerar es que estos algoritmos deben ser entrenados con datos previos y la calidad de estos datos y del modelo subsecuente importan mucho para obtener la mejor clasificación. Te invito a que consultes la documentación de Scikit-learn para que puedas profundizar en la forma en que funcionan estos algoritmos (y muchos otros) y puedas saber qué tipo de parámetros se pueden ajustar y cuál es la forma de los datos que esperan. Aquí está el vínculo a la documentación
¡Compártenos tus descubrimientos!
Victor Muchica Farfan
En este video explican las regresion logistica https://www.youtube.com/watch?v=KN167eUcvrs
Alfonso Morán
Muchas gracias, sin saberlo, este vídeo me explicó cosas con las que he trabajado la regresión logística y no sabía porqué. Ahora me queda todo más claro.
Luciano Gauchez
Gracias!
Juan David Suarez
Este era el que más me costaba entender, pero esta imagen me aclaró todo.
Edgar A. Gonzalez Ambriz
Hola Juan David, con todo y que he movido el zoom del navegador no logro ver bien la imagen porque el zoom al aumentar deforma las letras por la resolución... ¿donde obtuviste la imagen? ... gracias de antemano
Antonio Perez
Gracias por la documentación. Muy buena; https://scikit-learn.org/stable/modules/linear_model.html
Israel Sornoza Merino
Viendo todo esto me surgió una curiosidad & observación: ¿Creen ustedes que los test de personalidades como los de 16 personalities se basan precisamente en estos tipos de clasificación? Mientras leía Nearest Neighbour me pareció que así es exactamente como determinan qué tipo de personalidad es la que todos tienen (Curioso, ya que si eso es verdadero, al principio literalmente tuvieron que haber probado y verificar con personas presenciales que así mismo sean sus personalidades). Les comparto el link si no lo han visto para que ustedes se puedan convertir en parte de ese experimento =) . https://www.16personalities.com/es/test-de-personalidad
Juan David Suarez
Depende de la complejidad, la mayoría de test tienen menos de 10 parámetros para medir y dependiendo del puntaje que saques en cada uno te asigna un resultado, pero no es un algoritmo que compare tu información con la de otras personas, ya tiene algo fijo para clasificarte.
En su creación pienso que puede funcionar mejor un algoritmo de clusterización.
Carli Code
Profesor
Christian Daniel Ayala Arias
scikit-learn esta increíble ya quiero aprender a usarlo¡¡¡
Acá encontré un link que muestra otros tipos de algoritmos de ML https://www.apd.es/algoritmos-del-machine-learning/
Y en GitHub hay muchísimo contenido de valor sobre estos temas
Victor Muchica Farfan
muy buen aporte gracias
Luciano Gauchez
Gracias!!
Josue Noha Valdivia
Técnicas de Clasificación Clasificadores Lineales Dividen el conjunto mediante líneas (puede ser multidimensional) en áreas en las que se encuentran nuestros datos. Tienen la desventaja de ser poco flexibles y hay conjuntos que no pueden ser separados por simples líneas (pero sí con polígonos) Regresión logística Divide el campo en un gradiente de probabilidades de pertenencia. Generan un área difusa en la que no estamos seguros de la clasificación y otra en la que tenemos un alto grado de certeza Nearest Neighbor Compara los datos aquellos más cercanos que ya conocemos y define la pertenencia a un grupo en base es estos. Estos algoritmos dibujan una especie de línea costera para clasificar los datos. Mientras más grande k esta línea se alisa. Super Vector Machines Estos algoritmos pueden generar figuras complejas (polígonos) para agrupar los datos. Son una buena opción para distribuciones de datos complejas. Árboles de decisión Generamos un árbol el cual recorreremos a medida que tomamos decisiones en cada nivel.
Juan David Vergara Torres
Qué existen redes neuronales no supervisadas!
https://scikit-learn.org/stable/modules/neural_networks_unsupervised.html
Jose Fernando Jaramillo Boon
hay un curso dedicado a cada uno de los tipos de Modelo de clasificación?
JESUS ALBERTO CARREÑO MARTINEZ
Hay un Curso de Redes Neuronales en Keras y Scikit-Learn y un Curso Profesional de Machine Learning y Scikit-Learn
Carolina Coronado Alderete
Compañeros, les comparto un blog donde hablan un poco más sobre los Support Vector Machines
Enlace
Eber Laurente Lliuyacc
¡Qué buen articulo! :)
Zain Abimael Barradas Mendoza
Muy buen resumen de las clasificaciones, y la documentación muy buena.
Angel Gerardo Ochoategui Occampo
Supongo que estos temas se profundizan en los cursos mas avanzados de Machine Learning dentro del Learning path no?
Ramón Ruiz
Al igual que en los algoritmos de agrupación, en los de clasificación también tenemos la posibilidad de usar más de un algoritmo para obtener mejores resultados y este dependerá también de cual es tu necesidad.
Victor Manuel Osorio Parra
Gracias, está bueno el artículo
Sebastián Andrade
"Utilizamos mentalmente estructuras de árbol de decisión constantemente en nuestra vida diaria sin darnos cuenta:
¿Llueve? => lleva paraguas. ¿Soleado? => lleva gafas de sol. ¿estoy cansado? => toma café. (decisiones del tipo IF THIS THEN THAT)
Los árboles de decisión tienen un primer nodo llamado raíz (root) y luego se descomponen el resto de atributos de entrada en dos ramas (podrían ser más, pero no nos meteremos en eso ahora) planteando una condición que puede ser cierta o falsa. Se bifurca cada nodo en 2 y vuelven a subdividirse hasta llegar a las hojas que son los nodos finales y que equivalen a respuestas a la solución: Si/No, Comprar/Vender, o lo que sea que estemos clasificando."
Tomado de https://www.aprendemachinelearning.com/arbol-de-decision-en-python-clasificacion-y-prediccion/
Franco Manca
Les comparto apuntes donde he adjuntado algunos gráficos a esta explicación para poder visualizar los algoritmos
Victor Muchica Farfan
muy buen recurso gracias
Edwin Alfonso Vargas Cubides
Es la Versión decorada del trabajo realizado por el compañero karl behrens gil, no le resto a tu trabajo pero en la academia existe algo llamado propiedad intelectual y no es ético el no reconocerlo, dejo el link al sitio en GITHUP de donde se hizo el fork
Karl Behrens
LUIS EDUARDO SALAMANCA GARCIA
Dejo mi aporte con este enlace, donde podrás encontrar más información y ejercicios para practicar. https://www.aprendemachinelearning.com/que-es-machine-learning/
Daniel Carmona
a veer
Gabriela Barrezueta
Muy buen aporte, me encanta..!
JAVIER SANTIAGO SALGADO
No se porque pero me recordó a esta película: https://www.youtube.com/watch?v=eyuNrm4VK2w
Luciano Gauchez
jajajajaja
Luis Fernando Pedroza Taborda
Excelente documentacion, muestra todos los tipos de aprendizaje tanto supervisados como no supervisados.
