G検定（JDLA） 練習問題 3：未学習と過学習
機械学習における未学習（アンダーフィッティング）と過学習（オーバーフィッティング）について述べた文として、正しいものはどれか。
- A: 過学習とは訓練データへの適合が不十分な状態であり、モデルが単純すぎる場合に起こりやすい。
- B: 未学習の状態では訓練データと検証データの両方で高い精度が得られる。
- C: 過学習を抑制する手法として、ドロップアウトやL1・L2正則化が有効である。
- D: 過学習が起きているモデルは訓練データと検証データの両方で低い精度しか出せない。
- E: 過学習は訓練データの量を減らすことで根本的に解決できる。
Qraftユーザーの成績：難易度 Dランク（レーティング1112）・正答率 67%（29/43回正解）
レーティングは解いた人の実力と正誤から算出する難しさ（初期値1200）。ランクはその全問題中の順位（S+が最難関、F-が最易）
正解と解説を見る
正解は「過学習を抑制する手法として、ドロップアウトやL1・L2正則化が有効である」です。
【正解の理由】
過学習（オーバーフィッティング、＝モデルが訓練データのノイズや細かいパターンまで覚えてしまい、未知のデータにうまく対応できなくなる状態）を抑制するには、ドロップアウト（＝学習時にランダムに一部のニューロンを無効化し、特定のパターンへの依存を防ぐ手法）や、L1・L2正則化（＝重みの大きさにペナルティを課し、モデルが過度に複雑になるのを防ぐ手法）が有効です。他にも訓練データを増やすデータ拡張や早期終了（Early Stopping）も有効な手法です。
【不正解の理由】
• 「過学習とは訓練データへの適合が不十分な状態であり、モデルが単純すぎる場合に起こりやすい」という説明は誤りです。これは未学習（アンダーフィッティング）の説明であり、過学習はその逆で、モデルが複雑すぎて訓練データに適合しすぎる状態を指します。
• 「未学習の状態では訓練データと検証データの両方で高い精度が得られる」という説明は誤りです。未学習ではモデルがデータのパターンを十分に捉えられていないため、訓練データ・検証データの両方で精度が低くなります。
• 「過学習が起きているモデルは訓練データと検証データの両方で低い精度しか出せない」という説明は誤りです。過学習では訓練データの精度は高くなる一方、未知の検証データでは精度が下がる、という差が特徴です。
• 「過学習は訓練データの量を減らすことで根本的に解決できる」という説明は誤りです。一般に訓練データを減らすとモデルはますますそのデータ特有のパターンを覚えやすくなり、過学習はむしろ悪化します。過学習対策としては、訓練データを増やす・正則化を行う等が有効です。