AIに「航空機並みの安全審査」「独裁を防ぐ」　アンソロピックCEOが政策提言

Anthropicのダリオ・アモデイCEOは10日(米国時間)、AIの変化に対応する政策提言をまとめた「Policy on the AI Exponential(AIの指数関数的進化と政策)」を自身のブログに公表した。

同社では、急速なAIの進化が続く中で「人間の制御を離れるリスク」があるとし、国際協調によるAI開発の「減速」を4日に提唱していた。アモデイ氏による投稿でも、AIの急速な開発速度が、「通常の政策立案プロセスが吸収できるスピードをはるかに超えている」とし、社会全体で取り組むべき行動について提言。規制と公共の安全など、特に見直しが求められる5つの政策についてまとめている。

「規制と公共の安全」では、「情報開示」は重要な出発点だったが、リスクが現実になりつつあるため、「拘束力のあるルールの整備が急務」と説明。フロンティアAIモデルに、「航空機と同等」の技術的な検証と監査を義務付け、高い安全基準を満たさない場合は、リリースを差し止めるべきであると主張している。

「マクロ経済と税制」については、AIは急速な経済成長をもたらす一方で、「雇用の急激な変化も引き起こす可能性がある」と指摘。成長によるメリットを広く社会全体に行き渡らせることが、税制を含む経済政策の核心的な問いになるとしている。

「AIがもたらすメリットの加速」については、医療・ライフサイエンスなど、AIが大きく貢献できる分野では、「AIの進化を前提としていない従来の規制」がそのまま残ることがリスクと言及。早期に実現できるはずの恩恵を遅らせないよう求めている。

「国家権力と個人の自由」では、AIが「究極の独裁ツール」となる危険性を指摘。AIを使った市民の監視や権力の集中を防ぐため、民主主義を守る仕組みの強化を訴えている。

また、「民主主義国家によるリーダーシップの確立」として、AIは軍事的・経済的優位性を左右する最大の要因になると言及。民主主義国家が共通の価値観のもとで連携し、リスク管理やAIサプライチェーンの運営に協働で取り組むべきと呼びかけている。

この投稿自体は、米国の政策を中心としているが、ダリオ氏は「大半の提言は米国以外にも当てはまる」と説明している。

ダリオ氏の投稿では、「Mythosクラスのモデルがもたらすサイバーリスクは、私たちが直面しなければならない最後のリスクではない。生物学的リスクがまもなく続き、深刻なAI自律性のリスクもそう遠くない将来に迫っている」とし、早期の対策を呼びかけている。

また、こうした危機の呼びかけは、「PRの問題、マーケティングとみなす人もいるが、この見方を完全に否定する」と強調。「人々がAIを懸念しているのは、AI企業のCEOたちが楽観的な姿勢を欠いているためではなく、AIのリスクが現実のものであると正しく認識しているからだ」とし、政治的立場を超えた解決が必要と述べている。