「オープンモデル禁止は主張していない」　アンソロピックCEOが声明

Anthropicのダリオ・アモデイCEOは27日(米国時間)、オープンウェイトモデルに関する同社の対応についての声明を発表した。Anthropicは、「オープンウェイトモデルの禁止を提唱したことは一度もない」と強調する一方で、オープンウェイトモデルが安全対策の開発を容易にする、といった主張には疑問を呈している。

中国Moonshot AIの「Kimi-K3」など、一般公開され、ダウンロードして利用できる「オープンウェイトモデル」の高い性能に注目が集まる中、米国政府では規制を求める声も挙がっている。そうした中で24日に、NVIDIAやMicrosoftらは、オープンウェイトモデルの重要性を訴え、慎重な対応を政策立案者に求める声明を公開。当初は加わっていなかったOpenAIやGoogleも参加を表明したが、Anthropicはこの声明に参加していない。

アモデイ氏は、「危険な能力を持たないオープンウェイトモデルは公共財で、企業、開発者、研究者に価値をもたらす」とその価値を認める。一方で、懸念として、中国共産党(CCP)など、権威主義的な政府が米国よりも強力なAIモデルを開発し、それを用いて軍事的優位性を確立したり、自国民に対して極めて過酷な弾圧を行なうリスクや、強力なAIモデルがサイバー攻撃や生物兵器攻撃に悪用されるリスクなどを指摘する。

そのため、中国には高性能なチップやチップ製造装置を販売すべきではなく、産業規模のディスティレーション(蒸留)作業を取り締まるべきで、政策介入が必要と訴える。

そのうえで、十分な能力を持つすべてのモデルは、オープン・クローズドを問わず、サイバーリスク、生物学的リスク、アラインメントリスクなどについての安全性テストを課すべきと主張している。

アモデイ氏は、NVIDIAらによる公開声明については、「内容の多くに同意する。オープンウェイトはAI経済へのアクセスを拡大し、一部のユースケースにおいては競争を強化し、顧客により大きな制御権を与える」と賛同しているが、「オープンウェイトモデルが安全対策の開発を容易にするという主張や、機能への広範なアクセスが攻撃者よりも防御者により大きな利益をもたらすという主張には同意できない。その逆である可能性も、少なくとも同等にあるように思える」と反論。例えば、生物学の分野では、攻撃者と防御者の間に著しい非対称性が生じるのではないかと懸念している。そのため、楽観的な仮定ではなく、「リリース前の厳格なテストを通じて実証的に答えを出すべき」と述べている。

Anthropicダリオ・アモデイCEOの主張
• オープンウェイトモデルの禁止を訴えたことはない
• 強力なチップが権威主義的な勢力の手に渡らないようにする
• 産業規模の蒸留を阻止する
• オープン・クローズを問わず、すべての「十分に能力のある」モデルに対して安全性テストを義務付ける