ニュース

アンソロピック「Claude Fable 5」、7月1日復活 輸出規制解除

Anthropicは30日(米国時間)、米国政府の指示により公開を停止していた最上位のAIモデル「Claude Fable 5」(フェイブル5)と「Claude Mythos 5」(ミュトス5)の輸出規制が解除されたと発表した。7月1日からアクセスを復旧開始し、順次更新していく。

米国商務省から、Fable 5とMythos 5に対する輸出規制を解除したとの通知を受け取ったとしている。

Anthropicでは、6月9日にFable 5とMythos 5を一般公開。Fable 5はサイバーセキュリティと生物学および化学など、悪用が懸念される分野での対策を盛り込み一般公開し、サイバーセキュリティに特化したMythos 5は、セキュリティ担当者やインフラプロバイダー向けに限定し、公開していた。しかし公開から3日後の12日に、米国政府が国家安全保障上の懸念により、外国籍者によるFable 5/Mythos 5へのアクセス停止を命令。Anthropicは両モデルの公開を停止していた。

その後、6月26日にMythos 5を一部の米国組織に対して再展開可能であるとの通知を商務省から受領。アクセスを再開していた。

新たな安全対策のもと「Fable 5」再開

Anthropicでは、商務省からの通知を受けて今後の対応を発表。7月1日からClaude Platform、Claude.ai、Claude Code、Claude Coworkで利用を再開するが、新たな安全対策を導入したことを明らかにしている。

Pro(月額20ドル)、Max(同100ドル)、Team、一部のEnterpriseプランでは、7月7日まで、週間利用制限の最大50%までFable 5が利用可能となり、その後は利用クレジットを購入する必要がある、また、AWS、Google Cloud、Microsoft Foundryでのアクセスも、早期に再開予定としている。

同社では、今回米国商務省から輸出停止命令を受けた理由について、Amazonの研究者がFable 5の安全対策を回避する方法を発見したという報告によるものと説明。停止後は、政府やAmazonを含むパートナーと連携し、報告書と証拠の検証を行なっていたという。

今回発見された脆弱性は、Fable 5だけでなく、Claude Opus 4.8、GPT-5.5、Kimi K2.7などのモデルでも、同じ脆弱性を特定できることが確認された。同社では「日常的なサイバーセキュリティ防御作業の範囲内」としながらも、危険性は低いものの、慎重を期した安全対策の強化を行ない、今回の脆弱性は99%以上のケースでブロックされ、Fable 5ではなく、Opus 4.8へ迂回されることとなる。

Fable 5では、サイバーセキュリティや生物科学などに関するリクエストは、無害であるとわかっていてもブロックし、Opus 4.8など別のモデルを活用する「分類器(classifiers)」を安全対策として導入している。6月のリリース時にも搭載していたが、再公開にあたり、改良された分類器を導入し「安全マージン」を拡大している。

安全マージン

こうした、Fable 5の安全機能を回避する手法(ジェイルブレイク)については、多層的なアプローチで対策を導入しているほか、新たな手法についても常に対策を講じていく。

一方でAnthropicは、「AIのジェイルブレイクの深刻度を客観的にどのように記述すべきかについて、業界で合意が形成されていない」とし、安全性や緊急性を判断する術を準備する必要があると主張。今回の政府の対応も何らかの基準に基づくものではなく、公開したモデルを停止するなど多くの影響が生じた。

AIのジェイルブレイクを評価するための共通基準の策定に着手。Amazon、Microsoft、GoogleやGlasswingパートナーと提携し、AIのジェイルブレイクの深刻度を評価し、AI開発者がそれにどう対応すべきかを定める合意形成フレームワークの草案作成に取り組む。「能力の向上」「能力向上の幅」「武器化の容易さ」「発見の容易さ」などの主要な指標から深刻度を判断できるようにする。

Anthropicでは、今後、政府との連携・協力を推進。そのうえで、「ルールを強力な規制として成文化し、最先端モデルの開発者全員に平等に適用されるべき」とし、AIモデルのリリースにおける政府の関与について、持続可能で透明性の高いプロセスの作成を進めるとしている。