アンソロピック、Fable 5などミュトス級AIモデルを公開停止　米国政府が指令

米国政府は12日(米国時間)、国家安全保障上の権限を理由に、Anthropic(アンソロピック)に対し、外国籍者による「Claude Fable 5」と「Claude Mythos 5」へのアクセスを停止するよう求める輸出管理指令を発出した。この指令は米国内外を問わず、Anthropicの従業員も含まれる。

この命令を受け、Anthropicは9日に提供開始したばかりの最上位モデル「Fable 5(フェイブル)」と「Mythos 5(ミュトス)」へのユーザーのアクセスを直ちに停止する。その他のモデルは引き続き利用できる。

日本時間10時30分時点ではFable 5も選択可能だった

同社では米国東部時間の午後5時21分(日本時間の6月13日午前6時21分)に、政府から指令を受け取った。書簡には、国家安全保障上の懸念に関する具体的な内容は記載されていないものの、政府が、Fable 5を迂回する「ジェイルブレイク」の手法の判明を受けて決めたこととAnthropicでは認識している。

Fable 5とMythos 5は、Anthropicの最上位AIモデル。Mythosの高いサイバーセキュリティ能力は国家安全保障上の懸念とされ、一般には公開されないが、Fable 5は、Mythos 5に「サイバーセキュリティ」と「生物学および化学」、「ディスティレーション(蒸留)」に関する安全対策を導入し、9日から一般公開している。この安全対策が強力で、サイバーセキュリティや生物学に関係しない作業においても、関連する用語の利用などを誤判定して、安全対策が動作するため、利用者からは苦情も寄せられていた。

Anthropicでは、Fableのリリース前の数週間に、米国政府、英国AISIのほか、複数の民間第三者機関、社内チームと協力し、Fableの安全対策を強化してきたことを強調。これまで、モデルの安全対策を広範囲に迂回する「ジェイルブレイク」は起きていないと説明。Fable 5において、多層防御戦略を導入しているほか、顧客データの30日保持の義務付けなどの対策を行なっているとする。

また現在までに政府から提供されている情報は、1件の潜在的な脱獄手法のみ。その手法は他のモデル(OpenAIのGPT-5.5など)でも広く利用可能で、日常的に使用されていると説明。今後24時間以内に、詳細を共有する予定としている。

Anthropicでは、政府の法的指示に従い、全ユーザーに対しFable 5とMythos 5へのアクセスを停止するが、「限定的な脱獄の可能性が発見されただけで、数億人のユーザーに展開されている商用モデルを回収すべきという主張には同意できない」と反論。「この基準が業界全体に適用されれば、フロンティアモデルを提供するすべてのプロバイダーにおいて、実質的に新規モデルの展開が停止することになる」と説明している。また、利用者への謝罪とともに、これは誤解であり、できるだけ早くアクセスを復旧できるよう取り組むとしている。