¿Qué son los random forest o bosques aleatorios?

Random foreste es un método de ensamble que se basa en la combinación de múltiples arboles de decisión, al igual que el árbol de decisión, es un algoritmo de aprendizaje supervisado, que puede utilizarse en problemas de clasificación como de regresión.

¿Que es un ensamble?

• También conocidos como métodos combinados.
• Intentan ayudar a mejorar el rendimiento de los modelos de
  machine learning, utilizando todas las bondades de los arboles de decisión.
• Proceso mediante el cual se construyen estratégicamente
  varios modelos de machine learning para resolver un problema particular.

Random Forest

Bosques aleatorios en sklearn (RandomForestClassifier y RandomForestRegressor), cada árbol del conjunto se construye a partir de una muestra de arranque del conjunto de entrenamiento.
.
Al dividir cada nodo durante la construcción de un árbol, la mejor división se encuentra entre todas las características de entrada o un subconjunto aleatorio de tamaño max_features(en sklearn).
.
El propósito es disminuir la varianza del estimador forest. Los árboles de decisión individuales suelen exhibir una gran variación y tienden a sobreajustarse.
.
En la práctica, la reducción de la varianza suele ser significativa, por lo que genera un mejor modelo general.

La implementación de scikit-learn combina clasificadores promediando su predicción probabilística, en lugar de permitir que cada clasificador vote por una sola clase.

Fuente doc sklearn: https://scikit-learn.org/stable/modules/ensemble.html#random-forests