企業のAI実装ロードマップ　第5章

AIガバナンス、証跡、監査

AIガバナンスは、利用禁止事項を並べた規程だけでは機能しません。台帳、リスク分類、責任者、承認履歴、データの出所、変更履歴、評価結果、インシデント記録を運用に組み込みます。

AIシステム台帳をつくる

ガバナンスの起点は、社内でどのようなAIが、どこで、誰の責任で動いているかを把握することです。把握していないシステムは統制も監査もできません。SaaSに組み込まれたAI機能や、部門が独自に契約したツールも含めて棚卸しします。

[PR]

すべてのAI利用に同じ統制を課すと、低リスクの用途まで手続きが重くなり、結果として統制外の利用が増えます。リスクに応じて要求水準を変えるリスクベースアプローチが基本です。

リスク区分と要求される統制
リスク区分	該当例	要求される統制
高	個人の権利・利益に影響する判断、安全に関わる制御、対外的な自動応答	台帳登録、事前評価、人間の承認、全件ログ、定期監査、影響評価
中	社外文書の生成、顧客データの分析、業務判断への実質的な関与	台帳登録、サンプル監査、ログ保存、年次評価
低	社内向け下書き、要約、検索補助	台帳登録、利用ルールの周知、異常時の報告経路

分類は自己申告に任せず、「個人の権利に影響するか」「対外的に出るか」「不可逆な操作を行うか」といった判定質問を用意し、誰が答えても同じ区分になるようにします。また、区分の判定理由を台帳に残すことが重要です。後から「なぜ低リスクと判断したのか」を説明できる状態を保ちます。

エージェントや自動化システムでは、入力からツール実行、判断、出力までのトレースを保存し、SLA、品質基準、停止条件を定義します。単発の質問応答と異なり、複数ステップの処理では「どこで誤ったか」の特定が難しいためです。

トレースは容量が大きくなるため、リスク区分に応じて保存粒度と保持期間を変えます。高リスク用途は全件・長期保存、低リスク用途はサンプリングと短期保存とするのが現実的です。

監査は導入時の一度きりではなく、モデル更新、データ変更、業務変更のたびに再評価します。特にSaaS利用では、提供事業者側のモデル更新が利用者の関知しないうちに行われることがあります。この場合でも、出力品質の変化に気づける仕組みが必要です。

AI固有のインシデントには、誤出力による業務影響、機密情報の混入、権限を越えた情報の露出、自動処理の暴走などがあります。既存のインシデント対応手順に、AI固有の初動を追加する形で整備します。

対応後は、再発防止策を台帳と教育教材の両方に反映します。技術的な修正だけで終わらせると、同種の問題が別のシステムで再発します。「なぜこの構成では防げなかったのか」を設計原則の更新まで戻して検討してください。

自社の統制を一から設計する必要はありません。既存の枠組みを参照し、自社の台帳項目や評価手順に対応づけることで、監査時の説明と、将来の規制対応の両方が容易になります。