G検定（JDLA） 練習問題 15：XAI（説明可能なAI）

正解は「決定木や線形回帰のようなモデルは、ディープニューラルネットワークと比較して一般に解釈性（説明可能性）が高いとされる」です。

【正解の理由】
決定木や線形回帰などのモデルは、パラメータや分岐条件が直接的に人間にとって解釈しやすいため、複雑な非線形変換を多層に重ねるディープニューラルネットワークに比べて、一般に解釈性（説明可能性、＝モデルがなぜその予測をしたのかを人間が理解できる度合い）が高いとされています。

【不正解の理由】
• 「XAIとは、AIモデルの予測精度を最大化するためだけに用いられる学習アルゴリズムの総称である」という説明は誤りです。XAI（Explainable AI、＝AIの判断根拠を人間に理解できる形で説明することを目指す技術・研究分野）は、精度最大化のための学習アルゴリズムではありません。
• 「深層学習モデルは内部構造が単純であるため、常に高い説明可能性を持つ」という説明は誤りです。深層学習モデルは多数のパラメータを持つブラックボックス的な構造であり、一般に説明可能性は低いとされています。
• 「XAIの手法であるLIMEやSHAPは、モデルの学習速度を高速化するために用いられる技術である」という説明は誤りです。LIMEやSHAPは学習済みモデルの予測根拠を説明するための代表的なXAI手法であり、学習速度の高速化とは無関係です。
• 「AIの判断根拠を人間が理解できるようにする取り組みは、AIの予測精度と常に完全に両立し、両者の間にトレードオフは存在しない」という説明は誤りです。一般に説明可能性の高いシンプルなモデルほど、複雑な高精度モデルより表現力が劣る傾向があり、両者の間にはトレードオフが存在するとされています。