Random Forest
Une forêt aléatoire entraîne de nombreux arbres de décision, chacun sur un échantillon bootstrap avec un sous-ensemble aléatoire de caractéristiques, puis vote/moyenne à la prédiction, réduisant la variance.
Objectif
Fournir un ensemble robuste et facile d'emploi qui réduit le surapprentissage des arbres de décision.
Mécanisme
Chaque arbre s'entraîne sur un échantillon bootstrap et chaque scission ne considère qu'un sous-ensemble aléatoire de caractéristiques (√p). La prédiction prend un vote majoritaire (classification) ou la moyenne (régression). L'erreur out-of-bag estime l'erreur de généralisation.
Cas d’usage
- Classification et régression
- Importance des caractéristiques
- Prédiction robuste