G検定（JDLA） 練習問題 55：AIのセキュリティ：攻撃手法
AIシステムに対する攻撃手法の一つである「敵対的サンプル（Adversarial Examples）」に関する説明として、正しいものはどれか。
- 学習データの中に意図的に不適切なラベルを付与したデータを混入させることで、モデルの精度を低下させる攻撃。
- モデルの出力結果を何度も観察することで、学習に用いられた元のデータそのものを復元しようとする攻撃。
- 人間には知覚できないわずかなノイズを画像等に加えることで、AIモデルに誤った判定を意図的に引き起こす攻撃。
- 学習済みモデルを外部から大量のクエリで呼び出し、その応答からモデルのパラメータや構造を盗み出す攻撃。
- 悪意のあるユーザーがシステムに大量のアクセスを行い、AIサービスの提供を機能不全に陥らせるネットワーク攻撃。
正解と解説を見る
正解：人間には知覚できないわずかなノイズを画像等に加えることで、AIモデルに誤った判定を意図的に引き起こす攻撃。
敵対的サンプル（Adversarial Examples）は、人間には知覚できないわずかなノイズを画像等に加えることで、AIモデルに誤った判定を意図的に引き起こす攻撃であるという説明が正解です。
【正解の理由】
敵対的サンプルは、AIの脆弱性を突く攻撃手法の一つです。例えば「パンダ」の画像に、人間の目には見えないレベルの特定のノイズ（摂動）を加えることで、AIには「テナガザル」と誤認識させるような手法がこれに該当します。自動運転車の標識認識を誤らせるなどのリスクが懸念されています。
【不正解の理由】
• 「学習データの中に意図的に不適切なラベルを付与したデータを混入させることで、モデルの精度を低下させる攻撃」という説明は、データポイズニング攻撃に関するものです。
• 「モデルの出力結果を何度も観察することで、学習に用いられた元のデータそのものを復元しようとする攻撃」という説明は、モデルインバージョン攻撃に関するものです。
• 「学習済みモデルを外部から大量のクエリで呼び出し、その応答からモデルのパラメータや構造を盗み出す攻撃」という説明は、モデル抽出（モデル・エクストラクション）攻撃に関するものです。
• 「悪意のあるユーザーがシステムに大量のアクセスを行い、AIサービスの提供を機能不全に陥らせるネットワーク攻撃」という説明は、DoS攻撃（Denial of Service attack）に関する一般的なセキュリティ脅威です。