Definition
過学習は、モデルがトレーニングデータ(そのランダムなノイズや外れ値を含む)を過度に学習してしまった状態を指します。その結果、トレーニングデータ上では優れたパフォーマンスを示しますが、新しく未知のテストデータに対するパフォーマンスは著しく低下します。
Summary
機械学習アルゴリズムが背後にある信号ではなくノイズを捉えてしまい、汎化性能を低下させるモデル化のエラー。
Key Concepts
- 高分散
- 汎化性能の低下
- トレーニング誤差とテスト誤差のギャップ
- モデルの複雑さ
Use Cases
- モデルパフォーマンスの問題診断
- 正則化強度の選択
- 最適なモデル深さの決定