Overfitting
Le surapprentissage survient quand un modèle s'ajuste trop au bruit et aux détails des données d'entraînement, donnant une faible erreur d'entraînement mais une forte erreur de généralisation.
Objectif
Identifier et prévenir le surapprentissage et améliorer la généralisation du modèle.
Mécanisme
Quand la complexité du modèle est trop élevée, il mémorise les données d'entraînement au lieu d'apprendre le motif sous-jacent. Détection : l'erreur d'entraînement très inférieure à l'erreur de validation. Défenses : régularisation, dropout, arrêt précoce, augmentation de données, modèles plus simples et ensembles.
Cas d’usage
- Généralisation des modèles
- Apprentissage profond
- Sélection de modèles