コンテンツへスキップ
uencoder

Overfitting

過学習(オーバーフィッティング)とは、モデルが訓練データのノイズや細部に適合しすぎ、訓練誤差は低いのに汎化誤差が高くなる現象である。

目的

過学習を識別して防止し、モデルの汎化性能を向上させる。

メカニズム

モデルの複雑さが高すぎると、背後にあるパターンを学ぶ代わりに訓練データを暗記してしまう。検出:訓練誤差が検証誤差を大きく下回ること。対策:正則化、ドロップアウト、早期停止、データ拡張、より単純なモデル、アンサンブル。

ユースケース

  • モデルの汎化
  • ディープラーニング
  • モデル選択(model selection)

関連用語

References