G検定(JDLA) 練習問題 56:自然言語処理:生成AIの活用手法
大規模言語モデル(LLM)の活用手法である「RAG(Retrieval-Augmented Generation)」に関する説明として、正しいものはどれか。
- 大規模言語モデルのパラメータを一切変更せず、入力するプロンプトの工夫のみで特定のタスクの性能を向上させる手法。
- 人間のフィードバックを用いて報酬モデルを訓練し、強化学習によって言語モデルの出力を人間の好みに合わせる手法。
- 外部のデータベースや文書群から関連情報を検索し、その情報を組み合わせて大規模言語モデルに回答を生成させる手法。
- 事前学習済みのモデルに対して、特定のタスクに関連する少量のデータを用いてパラメータを微調整し最適化する手法。
- 複数の言語モデルを並列に動作させ、それぞれの出力結果を多数決やスコアリングによって統合して最終的な回答を出す手法。
正解と解説を見る
正解:外部のデータベースや文書群から関連情報を検索し、その情報を組み合わせて大規模言語モデルに回答を生成させる手法。
RAG(検索拡張生成)は、外部のデータベースや文書群から関連情報を検索し、その情報を組み合わせて大規模言語モデルに回答を生成させる手法であるという説明が正解です。
【正解の理由】
RAG(Retrieval-Augmented Generation)は、大規模言語モデル(LLM)が学習していない最新の情報や社内文書などを活用するための手法です。ユーザーからの質問に対して、まず外部データベースを検索(Retrieval)し、得られた関連情報をプロンプトに組み込んでからLLMに回答を生成(Generation)させるため、ハルシネーション(=AIがもっともらしい嘘をつく現象)を抑えつつ正確な回答を得やすくなります。
【不正解の理由】
• 「大規模言語モデルのパラメータを一切変更せず、入力するプロンプトの工夫のみで特定のタスクの性能を向上させる手法」という説明は、プロンプトエンジニアリングに関するものです。
• 「人間のフィードバックを用いて報酬モデルを訓練し、強化学習によって言語モデルの出力を人間の好みに合わせる手法」という説明は、RLHF(人間のフィードバックからの強化学習)に関するものです。
• 「事前学習済みのモデルに対して、特定のタスクに関連する少量のデータを用いてパラメータを微調整し最適化する手法」という説明は、ファインチューニングに関するものです。
• 「複数の言語モデルを並列に動作させ、それぞれの出力結果を多数決やスコアリングによって統合して最終的な回答を出す手法」という説明は、アンサンブル学習に関するものです。