Overfitting
Überanpassung entsteht, wenn ein Modell sich zu stark an Rauschen und Details der Trainingsdaten anpasst — niedriger Trainingsfehler, aber hoher Generalisierungsfehler.
Zweck
Überanpassung erkennen und verhindern sowie die Modellgeneralisierung verbessern.
Mechanismus
Ist die Modellkomplexität zu hoch, memoisiert das Modell Trainingsdaten, statt das zugrunde liegende Muster zu lernen. Erkennung: Trainingsfehler weit unter dem Validierungsfehler. Abwehr: Regularisierung, Dropout, Early Stopping, Datenaugmentierung, einfachere Modelle und Ensembles.
Anwendungsfälle
- Modellgeneralisierung
- Deep Learning
- Modellauswahl