Random Forest
Ein Random Forest trainiert viele Entscheidungsbäume, jeweils auf einer Bootstrap-Stichprobe mit zufälligem Merkmalsausschnitt, und stimmt/mittelt bei der Vorhersage, was die Varianz senkt.
Zweck
Ein robustes, leicht zu benutzendes Ensemble bieten, das das Overfitting von Entscheidungsbäumen verringert.
Mechanismus
Jeder Baum trainiert auf einer Bootstrap-Stichprobe, und jeder Split betrachtet nur einen zufälligen Merkmalsausschnitt (√p). Die Vorhersage nutzt Mehrheitsvoting (Klassifikation) oder den Mittelwert (Regression). Der Out-of-Bag-Fehler schätzt den Generalisierungsfehler.
Anwendungsfälle
- Klassifikation und Regression
- Merkmalwichtigkeit
- Robuste Vorhersage