G検定（JDLA） 練習問題 75：生成AIのセキュリティ
📊 Qraftユーザーの成績
- 難易度 Cランク（レーティング1174）
- 難易度 1577位/2795問中
- 正答率 100%（1/1回正解）
生成AIに対するセキュリティ上の脅威である「プロンプトインジェクション」に関する説明として、正しいものはどれか。
- モデルの学習データに悪意のあるノイズを混入させ、特定の入力に対して誤作動を引き起こす。
- ユーザーが入力する指示文に悪意のある命令を含め、モデルの制限を回避して不適切な出力をさせる。
- ネットワークトラフィックを大量に送信し、AIシステムのサービスを停止させる攻撃手法である。
- 画像に人間の目には見えない微小なノイズを追加し、画像認識モデルに誤分類をさせる手法である。
- クラウド上のAIモデルに対して大量のクエリを送り、モデルの重みパラメータを推測する手法。
正解と解説を見る
正解：ユーザーが入力する指示文に悪意のある命令を含め、モデルの制限を回避して不適切な出力をさせる。
プロンプトインジェクションは、LLMなどの生成AIに対してユーザーが入力するプロンプト（指示文）に悪意のある命令や特殊な文脈を意図的に紛れ込ませることで、AIの開発者が設定した制限や倫理フィルターを突破して不適切な出力を引き起こすサイバー攻撃です。
【正解の理由】
「ユーザーが入力する指示文に悪意のある命令を含め、モデルの制限を回避して不適切な出力をさせる」という記述が、プロンプトインジェクションの定義と合致しています。
【不正解の理由】
• 「モデルの学習データに悪意のあるノイズを混入させ、特定の入力に対して誤作動を引き起こす。」は、「データポイズニング攻撃」の説明
• 「ネットワークトラフィックを大量に送信し、AIシステムのサービスを停止させる攻撃手法である。」は、「DoS/DDoS攻撃」の説明
• 「画像に人間の目には見えない微小なノイズを追加し、画像認識モデルに誤分類をさせる手法である。」は、「敵対的サンプル（Adversarial Examples）」の説明
• 「クラウド上のAIモデルに対して大量のクエリを送り、モデルの重みパラメータを推測する手法。」は、「モデル抽出攻撃」の説明