AIリテラシー 説明可能性（Explainability）
説明可能性（Explainability）とは
説明可能性（Explainability）とは、AIシステムが出した結論や予測に対し、「なぜその結果になったのか」という理由や根拠を、人間が理解できる形で説明できる能力のことです。特にディープラーニングなどの「ブラックボックス」型モデルにおいては、内部処理が複雑すぎて因果関係が見えにくいため、XAI（Explainable AI）という分野で様々な可視化技術が研究されています。
LLMベースのAIエージェント監査においては、従来の数値的な重要度マップ（Attention Map）よりも、自然言語による説明が重視されます。「Chain of Thought（思考の連鎖）」プロンプティングにより、エージェントに「まず計画を立て、次に理由を述べ、最後に結論を出す」よう指示することで、推論過程そのものを監査証跡として残す手法が一般的です。
監査における重要性：責任追及と改善
説明ができなければ、責任も負えません。例えば、AI採用面接官が不合格判定を出した場合、応募者に対して「総合的な判断」としか言えなければ、差別的な判断が行われた疑念を払拭できません。「職務経歴書のこの部分が、募集要項の要件Aを満たしていないため」と具体的に説明できて初めて、公平性が担保されたと言えます。
実務での課題と対策
「もっともらしい嘘（Rationalization）」への注意が必要です。エージェントに「理由を説明して」と求めると、実際にはランダムに選んだだけであっても、後付けで非常に論理的な（しかし嘘の）理由を生成してしまうことがあります。対策として、説明文だけでなく「参照したドキュメントの箇所（Citation）」をリンク付きで提示させ、ユーザーが一次情報を確認できるようにするUI設計が必須です。
失敗例・トラブル事例
- 医療診断AIの根拠不明: 画像診断AIが「98%の確率で腫瘍あり」と判定しましたが、医師が画像のどこを見てそう判断したのか分からず、治療方針を決定できませんでした。ヒートマップ（Grad-CAM）による注目領域の可視化機能が欠けていたため、現場での信頼を得られませんでした。
- 金融融資の拒否: ローン審査AIが申請を拒否しましたが、理由の説明が「AIスコア不足」のみでした。EUのGDPRなどの規制では、自動化された意思決定に対する「説明を受ける権利」が保障されており、法的コンプライアンス違反となりました。