¿Cómo funcionan los random forest?
Curso de Decision Trees y Random Forest con Python y scikit-learn
Contenido del curso
Nixon Rolando García Ramírez
Juan R. Vergara M.
Piero Olivas
Diego Mauricio Zuluaga Rodríguez
Diego Mauricio Zuluaga Rodríguez
Diego Mauricio Zuluaga Rodríguez
Sebastián Franco
Mario Alexander Vargas Celis
Jesus Adrian Berrio Valdes
Layla Scheli
ProfesorEste pequeño texto les puede ayudar a profundizar en el tema https://www.cienciadedatos.net/documentos/py08_random_forest_python , sin embargo, con la explicacion de la profe se entiende perfectamente.
👍📝
Excelente! 👩🏻💻
¿Cuándo debería usarlo en vez de árboles?
Deberías dar el salto a un Random Forest cuando notes que tu árbol de decisión simple tiene un rendimiento excelente en tus datos de entrenamiento, pero falla miserablemente con los datos de prueba. Esto es una señal clara de que necesitas un modelo más generalizable.
También es la opción ideal cuando trabajas con conjuntos de datos complejos que tienen muchísimas variables (columnas), ya que el bosque maneja la alta dimensionalidad de forma nativa seleccionando características al azar. Sin embargo, si necesitas explicarle tu modelo a un cliente o a un equipo de negocio paso a paso, un árbol simple es más fácil de visualizar. Usa Random Forest cuando tu prioridad absoluta sea la precisión y la estabilidad por encima de la interpretabilidad visual directa.
¿Puedo usar esto para tareas de regresión?
¡Absolutamente! Aunque a menudo se enseña usando ejemplos de clasificación, el Random Forest es un algoritmo sumamente versátil que brilla en tareas de regresión. En scikit-learn, en lugar de usar RandomForestClassifier, simplemente importas RandomForestRegressor.
La mecánica interna es casi idéntica: se construyen múltiples árboles usando subconjuntos aleatorios de datos y características. La única diferencia radica en la salida. En lugar de votar por una clase, cada árbol predice un valor continuo (como dólares, grados de temperatura o cantidad de ventas). El modelo final promedia todos estos valores para entregarte una predicción numérica suavizada y altamente precisa. Es una herramienta fantástica para predecir precios de bienes raíces, demanda de inventario o cualquier métrica continua que tu negocio necesite estimar.
¿Cómo combina el bosque múltiples árboles?
Un Random Forest utiliza una técnica llamada Bagging (Bootstrap Aggregating). En lugar de entrenar un solo modelo gigante con todos los datos, crea múltiples subconjuntos de tus datos originales eligiendo muestras al azar (con reemplazo). Luego, entrena un árbol de decisión independiente en cada uno de estos subconjuntos.
Además de elegir datos al azar, también selecciona un grupo aleatorio de características (columnas) en cada división del árbol. Esto asegura que los árboles sean muy diferentes entre sí y no cometan los mismos errores. Al final, el bosque junta todas las predicciones individuales para tomar una decisión final mucho más robusta y precisa que la de un solo árbol. Es como pedirle consejo a un comité de expertos con diferentes perspectivas en lugar de confiar en una sola persona.
El mayor problema de los árboles de decisión base es que tienden mucho al overfitting. Al implementar un cierto nivel de profundidad, este va a memorizar inevitablemente la data en vez de generalizar una solución
Los Random Forest son entonces un mecanismo mediante el cuál acoplamos múltiples Decision Trees, cada uno inicializado bajo un feature diferente, este va a tomar una decisión individual de una clase o una valor lineal, luego, la cantidad de estimadores dada va a hacer un voto mayoritario (en el caso de la clasificación) o un promedio (en el caso de la regresión), este será el resultado final
Los Random Forest (o bosques aleatorios) son un algoritmo de aprendizaje automático supervisado basado en árboles de decisión, pero mejorado gracias a la combinación de muchos árboles. Su objetivo es hacer predicciones más precisas, robustas y menos propensas al sobreajuste que un único árbol.
🌳 ¿Cómo funciona un Random Forest?
🎯 Ejemplo simple (clasificación)
Supongamos que quieres predecir si un cliente comprará o no un producto.
⚖️ Ventajas del Random Forest
✅ Reduce el sobreajuste comparado con un solo árbol
✅ Funciona bien en la mayoría de los problemas (clasificación y regresión)
✅ Puede manejar datos faltantes y variables categóricas o numéricas
✅ Da una medida de importancia de las variables (feature_importances_)
⚠️ Desventajas
❌ Menos interpretables que un solo árbol ❌ Consumen más recursos (RAM/tiempo) ❌ El entrenamiento puede ser más lento con muchos árboles o muchos datos
🔧 Parámetros clave en Scikit-learn
from sklearn.ensemble import RandomForestClassifier
modelo = RandomForestClassifier( n_estimators=100, # número de árboles max_depth=None, # profundidad máxima del árbol max_features='sqrt', # número de features aleatorios por split bootstrap=True, # si usar muestreo con reemplazo random_state=42 )
Cual es la diferencia entre un ramdom forest y hacer bagging?
Hola Jesus! te paso info:
"Random Forest es una extensión del Bagging, pero con la adición de la aleatorización de las características en la construcción de los árboles, lo que ayuda a mejorar la diversidad y la capacidad de generalización del modelo. Mientras que Bagging se centra en el muestreo bootstrap, Random Forest incorpora una mayor aleatorización para reducir la correlación entre los modelos base y mejorar la robustez del ensamblaje."
