Claude開発元として知られるAnthropicのダリオ・アモデイCEOが、重大なリスクを持つAIモデルの公開を政府が差し止める権限を支持する発言を行った。第三者による事前テストと外部監査を通じて、サイバー攻撃支援や生物兵器開発への転用といった「受け入れがたいリスク」を評価し、公的機関が配備を阻止できる制度の確立を求めている。AI企業トップ自らが規制強化を訴える異例の展開は、業界の成熟と同時に、自主規制だけでは対処しきれない段階に達したことを示唆している。
参考: Anthropic CEO、AI新モデルの公開を政府が差し止められるべきだと主張（Bloomberg）
分析・見解
自社の事業を縛りかねない規制を、AI企業のCEO自らが求める異例さ
この発言が注目されるのは、AI開発企業のCEOが、自社の事業を制約しかねない規制を自ら積極的に支持している点だ。通常、テック企業は規制に慎重な姿勢を取る。しかしAnthropicは創業当初から「安全性を重視したAI開発」を掲げてきた経緯がある。今回の主張は、その理念を制度の面まで広げたものと言える。
悪用リスクは現実味を帯び、社内評価だけでは不十分という認識
実際、大規模言語モデル(＝文章を生成するAI)の能力向上に伴い、悪意ある利用者がサイバー攻撃の手法を学ばせたり、危険物質の合成手順を引き出したりするリスクは現実味を帯びている。OpenAIが2023年にGPT-4を公開する前に行った安全性テストでは、生物兵器に関する専門知識へのアクセスが可能かどうかも評価項目に含まれていた。Anthropicが求める「第三者による義務的な事前テスト」は、こうした企業内での評価だけでは不十分だという認識に基づく。
EUのAI規制法をさらに進めた「配備前承認制」という発想
興味深いのは、EUが2024年に施行したAI規制法との接点だ。同法は「受け入れがたいリスク」を持つAIシステムを禁止する枠組みを持つが、新しいモデルを公開する際の事前承認制度は明確ではない。アモデイ氏の提案は、事実上これを一歩進めた「配備前承認制」であり、医薬品や航空機の安全認証に近い仕組みを想定していると考えられる。
誰がリスクを判定するのかという課題と、規制と技術革新の両立
一方で、誰が「受け入れがたいリスク」を判定するのかという根本的な問題が残る。技術の進化速度が速いAI分野では、規制当局の専門性が開発企業に追いつかない可能性が高い。また、行き過ぎた規制がイノベーション(＝新しい技術やサービスを生み出す力)を阻害し、結果的に権威主義国家との競争で不利になるリスクもある。アモデイ氏の提案が実現するには、技術者と規制当局が対話を続けること、そして審査を素早く進める仕組みの確立が不可欠だ。
ビジネスへの影響
主要国での事前審査制度導入に備え、代替案を用意しておく
企業がAIを導入・活用する上で、この動きは無視できない。まず、今後数年以内に主要国でAIモデルの事前審査制度が導入される可能性を想定すべきだ。特にクラウドAPIとして最新モデルを利用している企業は、突然の利用制限や機能変更に備えた代替案を用意しておく必要がある。
外部監査に備え、AIの用途・データ・出力先を文書化しておく
次に、AI利用のリスク評価体制の整備が急務となる。外部監査が標準化されれば、自社のAI活用が「受け入れがたいリスク」に該当しないことを証明する責任が生じる。法務・コンプライアンス部門とIT部門が連携し、AIの用途・データソース・出力先を文書化する仕組みを今から構築しておくことが賢明だ。
リスク管理に強い人材確保と、規制を信頼獲得の機会と捉える発想
また、AI倫理とガバナンスの専門人材への需要が急増すると予想される。技術とリスク管理の両方を理解し、第三者監査に対応できる人材は現状でも不足しており、早期に確保・育成した企業が競争優位を築くだろう。規制を「制約」ではなく「信頼獲得の機会」と捉える発想の転換が、これからのAI活用戦略の鍵を握る。