ニュースの概要
NECは企業情報のページで、自社のAIガバナンスの考え方と体制を公開している。AIを社会に提供する立場として、人権の尊重やプライバシーへの配慮、公平性、透明性といった原則を掲げ、それを実際の事業に落とし込む仕組みを整えているという内容である。原則を示すだけでなく、開発や提案の場面でリスクを確認する手順、専任の組織、外部の有識者との対話などを組み合わせている点が特徴だ。生成AIが急速に広がるなか、大手企業が「何を守り、誰が判断するのか」を言葉にして外に見せたことは、AIを使う側の企業にとっても参考になる動きである。
引用元: AIガバナンス : 企業情報（NEC）
分析・見解
原則を掲げるだけでは動かないという前提
AIガバナンスという言葉は、立派な理念文書を指すと受け取られがちである。だが、実際に現場を動かすのは理念ではなく、迷ったときに誰へ相談し、どの時点で止められるかという手順のほうだ。NECが公開している内容で注目すべきは、原則の列挙よりも、その原則を事業の流れに組み込もうとする姿勢にある。
過去の事例を見ても、問題は技術の欠陥より運用の穴から起きることが多い。顔認識の精度差による誤認、採用選考でのAI評価の偏りなどは、いずれも「出荷前に誰が何を確認するか」が曖昧だったことが背景にある。
確認の場面を三つに分けると見えてくる全体像
AIの管理は、開発する時、提案や販売をする時、使い続ける時の三つに分けると整理しやすい。開発段階では学習データの偏りや権利関係を確認する。提案段階では、顧客の用途がそもそも危うくないかを見る。運用段階では、精度が落ちていないか、想定外の使われ方をしていないかを点検する。
NECのように開発側に立つ企業は、この三つを自社内で回せる。一方、AIを購入して使うだけの企業は、最初の二つを提供元に頼ることになる。ここに見落としが生まれやすい。提供元が整えているから安心、とは言えず、使う側が決めるべき範囲は残る。
規制の波に先回りする意味
欧州ではAI規制法が段階的に適用され、リスクの高い用途には記録の保管や人による監督が求められる。日本は罰則中心の法律ではなく、事業者向けの指針を軸に進めてきたが、海外と取引する企業は結局その水準に合わせることになる。
大手がガバナンスを公開する狙いの一つは、取引先からの問い合わせに答えやすくすることだろう。調達の場面で「AIの管理体制を示してください」と求められる日は近い。電気やセキュリティの認証と同じ流れで、体制の有無が受注条件に変わっていく可能性が高い。
独自の視点として、ガバナンスは止める仕組みではなく速く進める仕組み
ガバナンスは活用の足かせと見られがちだ。しかし、あらかじめ許される範囲が決まっていれば、現場は毎回上司の許可を待たずに試せる。信号機のない交差点では全員が減速するが、信号があれば流れは速くなる。それと同じで、ルールの明確さが活用の速度を上げる。
逆に、ルールがない会社では、問題を恐れた一部の管理者が全面禁止に傾き、結果として社員が個人の端末で無断利用する状態が生まれる。こちらのほうがよほど危険である。
ビジネスへの影響
中小企業が最初に決めるべき三つの事項
大企業のような専任組織は不要である。まず、入力してはいけない情報を決める。顧客の個人情報、未公開の契約内容、社外秘の図面などが典型だ。次に、AIの出力を人が確認する範囲を決める。対外的な文書や数字を含む資料は、必ず担当者が目を通す。最後に、問題が起きたときの連絡先を一人決める。この三つを一枚の紙にまとめるだけで、運用は大きく変わる。
取引先に聞かれたときに備える記録の残し方
今後は取引先から、AIをどう管理しているかを尋ねられる場面が増える。口頭で答えるより、利用しているサービス名、用途、禁止事項、確認の担当者を一覧にしておくほうが信頼されやすい。半年に一度見直す日付を入れておくと、形だけの文書にならない。
導入するAIサービスを選ぶ際は、提供元がどんな管理体制を公開しているかも比較項目に加えたい。NECのように考え方と体制を言葉にしている会社は、問い合わせへの対応も期待しやすい。
なお、ルールは厳しすぎると守られない。最初は緩めに始め、現場の声を聞いて締める順番のほうが、定着しやすい。