Overfitting
過学習(オーバーフィッティング)とは、モデルが訓練データのノイズや細部に適合しすぎ、訓練誤差は低いのに汎化誤差が高くなる現象である。
目的
過学習を識別して防止し、モデルの汎化性能を向上させる。
メカニズム
モデルの複雑さが高すぎると、背後にあるパターンを学ぶ代わりに訓練データを暗記してしまう。検出:訓練誤差が検証誤差を大きく下回ること。対策:正則化、ドロップアウト、早期停止、データ拡張、より単純なモデル、アンサンブル。
ユースケース
- モデルの汎化
- ディープラーニング
- モデル選択(model selection)