MITが中心となって実施した最新調査により、主要なAI関連リスクのうち複数項目で「壊滅的損害」が発生する確率が10％を上回ることが明らかになった。調査では、多くの組織がサイバーセキュリティ対策に資源を集中させる一方で、AIシステムの社会的影響や運用上の統制メカニズムが軽視されている実態が浮き彫りになった。この偏りが、企業のAIリスク管理に深刻な盲点を生んでいると専門家は警鐘を鳴らしている。
参考: MIT主導の調査で、主要AIリスクの一部は「壊滅的損害」の確率が10％超と判明（TechTarget Japan）
分析・見解
10%というリスクは、主要インフラの許容水準の100倍に相当する
この調査結果が投げかける最大の問題は、確率の高さそのものではなく、企業のリスク認識における優先順位の歪みである。10%という数字は統計的に決して低くない。
例えば、主要インフラの障害許容度は通常99.9%(障害確率0.1%)で設計される。その100倍のリスクを抱えながら運用していることになる。
サイバー対策への偏りは、見えやすいリスクだけを重視してきた結果だ
現在のAIガバナンス体制がサイバーセキュリティに偏る理由は明快だ。データ漏洩やシステム侵入は目に見えやすく、規制の要件も明確で、経営陣への説明も容易である。
一方、AIの誤判断による差別的な採用、不適切な与信判定、医療診断の見落としといった社会的リスクは、発生するまで表に出にくく、因果関係を立証するのも難しい。しかし後者こそが、企業の社会的信用と長期的な存続を脅かす真のリスクである。
導入時の審査だけでは捉えられない、運用段階で顕在化するリスク
特に注目すべきは「運用統制の後回し」という指摘だ。多くの企業がAI導入時には精緻なリスク評価を行うものの、運用フェーズに入ると監視体制が形骸化する。
学習データの質的な劣化、モデルのドリフト(＝環境変化によるモデルの性能低下)、想定外の入力パターンへの対応の遅れなど、運用段階で顕在化するリスクは、導入時の評価では捉えられない。
「AI活用人材」から「AIリスク管理人材」への育成の転換が必要
MITのこの調査が示唆するのは、AIリテラシー教育の再定義の必要性である。単なる技術操作の習得ではなく、リスク評価能力、利用ルールの策定スキル、監督責任の理解、そしてインシデント発生時の対応手順までを含む体系的な教育プログラムが求められている。企業は「AI活用人材」の育成から「AIリスク管理人材」の育成へと軸足を移すべき転換点に立っている。
ビジネスへの影響
AIガバナンス体制の棚卸しでサイバー対策とリスク管理の偏りを可視化する
企業の意思決定者が今すぐ実施すべき対策は三つある。第一に、既存のAIガバナンス体制の棚卸しである。サイバーセキュリティ対策の充実度と、社会的リスクや運用面の管理の成熟度を比較し、リソース配分の偏りを数値で示す必要がある。
四半期ごとの継続監視で運用リスクの形骸化を防ぐKPIを設定する
第二に、AI運用の継続的な監視体制の構築である。四半期ごとのモデル性能レビュー、偏り(バイアス)の検査、想定外の出力パターンの分析を制度化し、形骸化を防ぐKPIを設定すべきだ。
経営層から各部門責任者まで、自部門のAIリスクを理解する体制を作る
第三に、経営層を含むリスク管理教育の再設計である。技術部門だけでなく、法務・人事・広報など各部門の責任者が、自部門で使うAIシステム固有のリスクを理解し、報告・相談の経路を把握している状態を作る必要がある。10%のリスクを放置するコストは、対策投資をはるかに上回る。