Claude開発元として知られるAnthropicのダリオ・アモデイCEOが、重大なリスクを持つAIモデルの公開を政府が差し止める権限を支持する発言を行った。第三者による事前テストと外部監査を通じて、サイバー攻撃支援や生物兵器開発への転用といった「受け入れがたいリスク」を評価し、公的機関が配備を阻止できる制度の確立を求めている。AI企業トップ自らが規制強化を訴える異例の展開は、業界の成熟と同時に、自主規制だけでは対処しきれない段階に達したことを示唆している。
参考: Anthropic CEO、AI新モデルの公開を政府が差し止められるべきだと主張（Bloomberg）
分析・見解
この発言が注目されるのは、AI開発企業のCEOが自社ビジネスを制約しうる規制を積極的に支持している点だ。通常、テック企業は規制に慎重な姿勢を取るが、Anthropicは創業当初から「安全性重視のAI開発」を標榜してきた経緯がある。今回の主張は、その理念を制度面まで拡張したものと言える。
実際、大規模言語モデルの能力向上に伴い、悪意ある利用者がサイバー攻撃の手法を学習させたり、危険物質の合成手順を引き出したりするリスクは現実的になっている。OpenAIが2023年にGPT-4のリリース前に実施した安全性テストでは、生物兵器に関する専門知識へのアクセス可能性が評価項目に含まれていた。Anthropicが求める「第三者による義務的事前テスト」は、こうした企業内評価だけでは不十分という認識に基づく。
興味深いのは、EUが2024年に施行したAI規制法との接点だ。同法は「受け入れがたいリスク」を持つAIシステムを禁止する枠組みを持つが、新モデル公開時の事前承認制度は明確でない。アモデイ氏の提案は、事実上これを一歩進めた「配備前承認制」であり、医薬品や航空機の安全認証に近い仕組みを想定していると考えられる。
一方で、誰が「受け入れがたいリスク」を判定するのかという根本的な問題が残る。技術の進化速度が速いAI分野では、規制当局の専門性が開発企業に追いつかない可能性が高い。また、過度な規制がイノベーションを阻害し、結果的に権威主義国家との競争で劣位に立つリスクもある。アモデイ氏の提案が実現するには、技術者と規制当局の継続的な対話、そして迅速な審査プロセスの確立が不可欠だ。
ビジネスへの影響
企業がAIを導入・活用する上で、この動きは無視できない。まず、今後数年以内に主要国でAIモデルの事前審査制度が導入される可能性を想定すべきだ。特にクラウドAPIとして最新モデルを利用している企業は、突然の利用制限や機能変更に備えた代替案を用意しておく必要がある。
次に、AI利用のリスク評価体制の整備が急務となる。外部監査が標準化されれば、自社のAI活用が「受け入れがたいリスク」に該当しないことを証明する責任が生じる。法務・コンプライアンス部門とIT部門が連携し、AIの用途・データソース・出力先を文書化する仕組みを今から構築しておくことが賢明だ。
また、AI倫理とガバナンスの専門人材への需要が急増すると予想される。技術とリスク管理の両方を理解し、第三者監査に対応できる人材は現状でも不足しており、早期に確保・育成した企業が競争優位を築くだろう。規制を「制約」ではなく「信頼獲得の機会」と捉える発想の転換が、これからのAI活用戦略の鍵を握る。