Clase 13 de 23 • Curso de Decision Trees y Random Forest con Python y scikit-learn
Contenido del curso
Paolo Joaquin Pinto Perez
Valery Villamizar Avella
Antonio Demarco Bonino
Julián Cárdenas
Sebastián Franco
Mario Alexander Vargas Celis
Iván Roberto Rivas Celeita
Layla Scheli
Random Forest
Bosques aleatorios en sklearn (RandomForestClassifier y RandomForestRegressor), cada árbol del conjunto se construye a partir de una muestra de arranque del conjunto de entrenamiento. . Al dividir cada nodo durante la construcción de un árbol, la mejor división se encuentra entre todas las características de entrada o un subconjunto aleatorio de tamaño max_features(en sklearn). . El propósito es disminuir la varianza del estimador forest. Los árboles de decisión individuales suelen exhibir una gran variación y tienden a sobreajustarse. . En la práctica, la reducción de la varianza suele ser significativa, por lo que genera un mejor modelo general.
La implementación de scikit-learn combina clasificadores promediando su predicción probabilística, en lugar de permitir que cada clasificador vote por una sola clase.
Fuente doc sklearn:
Random foreste es un método de ensamble que se basa en la combinación de múltiples arboles de decisión, al igual que el árbol de decisión, es un algoritmo de aprendizaje supervisado, que puede utilizarse en problemas de clasificación como de regresión.
¿Que es un ensamble?
Un Random Forest es un conjunto de muchos árboles de decisión que trabajan en conjunto. La idea principal es que en lugar de entrenar un solo árbol de decisión, se entrena una colección de árboles y se toma la decisión promedio o mayoritaria entre ellos. Cada árbol se entrena con una muestra diferente de los datos, y las predicciones se combinan para obtener un resultado más robusto.
Qué es un Random Forest!
Aquí hay algunas características clave de los Random Forests:
Ensemble Learning: Los Random Forests se basan en el concepto de ensemble learning, que implica combinar múltiples modelos para mejorar el rendimiento predictivo. En el caso de Random Forests, los modelos individuales son árboles de decisión.
Bagging (Bootstrap Aggregating): El proceso de construcción de un Random Forest implica la creación de múltiples árboles de decisión, cada uno entrenado en una muestra aleatoria (con reemplazo) de los datos de entrenamiento. Esto se conoce como bagging. Cada árbol "ve" una parte diferente de los datos, lo que reduce la probabilidad de sobreajuste.
Random Feature Selection: Además de usar muestras aleatorias de datos, los Random Forests también utilizan selección aleatoria de características en cada árbol. En lugar de considerar todas las características para cada división de nodo, se elige un subconjunto aleatorio de características. Esto ayuda a decorrelacionar los árboles y mejora la diversidad de los modelos en el bosque.
Votación y Promedio: Cuando se trata de clasificación, un Random Forest toma una decisión votando entre los árboles. Cada árbol emite su propia predicción y la clase que obtiene más votos se toma como la predicción final. En el caso de regresión, se promedian las predicciones de los árboles para obtener la predicción final.
Robustez y Generalización: Debido a su naturaleza de conjunto y su capacidad para manejar automáticamente el sobreajuste, los Random Forests tienden a producir modelos robustos y generalizables que funcionan bien en una variedad de conjuntos de datos.
Los Random Forests se utilizan en una amplia gama de aplicaciones de aprendizaje automático, incluyendo clasificación, regresión, detección de anomalías y más. Son particularmente útiles cuando se trabaja con conjuntos de datos grandes y complejos, y a menudo superan a los árboles de decisión individuales en términos de precisión y estabilidad.
Los Random Forest son un tipo de algoritmo de ensamble, es decir, donde se combinan múltiples árboles de decisión para mejorar el desempeño de la tarea final. Los ensambles son también conocidos como métodos combinados
Los Random Forest están basados en árboles de decisión, por lo que heredan sus naturalezas y restricciones, es decir, son considerados algoritmos de aprendizaje supervisado y solo pueden ser usados para tareas de regresión y clasificación
Los Random Forest o Bosques Aleatorios son un algoritmo de aprendizaje automático supervisado que se utiliza tanto para clasificación como para regresión.
🌲 ¿Qué son?
Un Random Forest es un conjunto (ensamble) de muchos árboles de decisión que trabajan juntos. En lugar de confiar en un solo árbol de decisión, este método construye varios árboles y combina sus resultados para obtener una predicción más precisa y robusta.
🔍 ¿Cómo funciona?
🎯 Ventajas:
⚠️ Desventajas:
📊 Ejemplo de uso:
Si estás clasificando tipos de vehículos (eléctrico, híbrido, gasolina) a partir de datos como peso, potencia, y consumo, un modelo Random Forest puede ofrecer muy buena precisión al combinar decisiones de múltiples árboles.
supuestamente hice el curso supercondensado de ML de gabriel gomila en Udemy y ni idea que era un RF hasta hoy.
Gracias Ivan, me alegro que asi sea :)
