G検定（JDLA） 練習問題 65：自然言語処理：系列変換モデルの構造
自然言語処理などで用いられるモデル構造「Seq2Seq」の特徴について述べた文として、正しいものはどれか。
- 文章中の単語の出現頻度のみをカウントし、その統計情報から複数の言語間で共通する文法規則を自動的に抽出するアーキテクチャである。
- 入力された系列データを一度固定長のベクトルに変換し、その情報を元にして新たな系列データを逐次的に生成するアーキテクチャである。
- テキスト内のすべての単語を並列に処理することで、系列データの順序情報を完全に無視して高速な翻訳を実現するアーキテクチャである。
- 画像データとテキストデータを同時に学習空間にマッピングし、画像から直接多言語の翻訳文を出力することができるアーキテクチャである。
- 未知の言語データに対して自律的に学習目標を設定し、外部からの教師データなしで高精度な翻訳モデルを構築するアーキテクチャである。
正解と解説を見る
正解：入力された系列データを一度固定長のベクトルに変換し、その情報を元にして新たな系列データを逐次的に生成するアーキテクチャである。
Seq2Seq（Sequence-to-Sequence）モデルは、RNN（再帰型ニューラルネットワーク）などを活用し、入力系列をエンコーダで固定長のベクトル（文脈ベクトル）に変換し、それをデコーダに渡して出力系列を生成するアーキテクチャです。正解はこの構造を正しく説明したものです。
【正解の理由】
機械翻訳などに用いられるSeq2Seqの基本構造は、入力の時系列データをエンコーダで内部状態（固定長のベクトル表現）に圧縮し、デコーダがその状態から新しい時系列データを生成するという仕組みだからです。
【不正解の理由】
• 「単語の出現頻度のみをカウントして共通する文法規則を抽出する」という説明は、統計的アプローチに関する不正確な記述であり、Seq2Seqの特徴ではありません
• 「系列データの順序情報を完全に無視して並列処理する」という説明は、Transformerなどのアテンションベースのモデルに近い記述ですが、系列の順序情報を「無視」するわけではないため誤り
• 「画像データとテキストデータを同時にマッピングして翻訳文を出力する」という説明は、マルチモーダルモデル（CLIPなど）の概念が混ざっており誤り
• 「外部からの教師データなしで高精度な翻訳モデルを構築する」という説明は、教師なし学習による機械翻訳の話であり、Seq2Seqモデル自体の構造定義としては誤り