G検定(JDLA) 練習問題 16:バッチ正規化
バッチ正規化(Batch Normalization)について、正しいものはどれか。
- 各層への入力をミニバッチ単位で平均0・分散1に正規化する手法である
- 学習後の重みを量子化して推論速度を高速化するための手法である
- 入力画像のピクセル値を0〜255の範囲に正規化する前処理手法である
- ニューラルネットワークの出力層でのみ適用され、隠れ層には適用できない手法である
- 過学習を防ぐために一部のニューロンをランダムに無効化する手法である
Qraftユーザーの成績:正答率 63%(10/16回正解)
正解と解説を見る
正解:各層への入力をミニバッチ単位で平均0・分散1に正規化する手法である
バッチ正規化は、各層の入力をミニバッチごとに正規化し、学習可能なスケール・シフトパラメータで調整することで学習を安定化・高速化する手法である。
【正解の理由】
バッチ正規化は内部共変量シフト(=学習中に各層の入力分布が変化してしまう現象)を抑えるために提案された手法で、ミニバッチ単位で平均と分散を計算して正規化し、その後学習可能なパラメータでスケール・シフトを行うことで表現力を保つ。これにより学習の収束が速まり、より高い学習率を使いやすくなる。
【不正解の理由】
• 「重みを量子化して推論速度を高速化」は量子化(Quantization)の説明であり、バッチ正規化とは異なる
• 「入力画像のピクセル値を0〜255の範囲に正規化する前処理」は画像の前処理の一種であり、バッチ正規化の仕組みとは異なる
• 「出力層でのみ適用され、隠れ層には適用できない」は誤りで、バッチ正規化は主に隠れ層に適用される
• 「一部のニューロンをランダムに無効化する手法」はドロップアウトの説明であり、バッチ正規化とは異なる手法である