Anthropic次世代モデル「Mythos」は非公開に　セキュリティ防衛で新プロジェクト

Anthropicは7日、ソフトウェアのセキュリティを確保するための新たな取り組み「プロジェクト・グラスウィング(Project Glasswing)」を発表した。Anthropicのほか、Amazon Web Services、Apple、Broadcom、Cisco、CrowdStrike、Google、JPMorganChase、the Linux Foundation、Microsoft、NVIDIA、Palo Alto Networksなどが参加する。

この取り組みを立ち上げたきっかけとなったのが、Anthropicが公開していないフロンティアモデル「Claude Mythos」だ。Mythos Preview(プレビュー版)では、AIモデルにより、ソフトウェアの脆弱性を発見するだけでなく、「悪用」する能力においても、最も熟練した人間以外の全ての人間を上回るレベルに達していることが確認されている。

Mythos Previewはすでに数千件の重大な脆弱性が発見されており、主要なオペレーティングシステムやWebブラウザも含まれている。同モデルが発見した脆弱性の中には、数十年も人間のレビューを通過し、数百万回におよぶ自動セキュリティテストをくぐり抜けてきたものも存在するという。

例えば、世界で最もセキュリティが強化されたOSとされる「OpenBSD」において、27年間放置されていた脆弱性を発見し、OSをリモートでクラッシュさせることを確認した。また、エンコード/デコードに使われるFFmpegにおいて、16年間放置されていた脆弱性を発見したほか、Linuxカーネル内の複数の脆弱性を自律的に発見したという。

AIの進歩の速度を考えると、こうした高い能力が広まるのは時間の問題であるが、悪用も懸念される。悪用されれば、経済、公共の安全、国家安全保障に対する深刻な影響を及ぼす可能性がある。こうした懸念を解消し、防衛目的に活用するための取り組みが、プロジェクト・グラスウィングとなる。

そのため、Anthropicは新モデルとなるMythos Previewをプロジェクト・グラスウィングのメンバーにのみ提供し、一般公開は行なわない。様々なベンチマークでもOpus 4.6を大幅に上回っている。

Anthropicは、プロジェクト・グラスウィングにおいてMythos Previewの利用クレジットとして最大1億ドルを提供するほか、オープンソースのセキュリティ組織への直接寄付として400万ドルを拠出。また、AI研究者や参加企業、オープンソースのメンテナー、セキュリティ研究者などと協力し、サイバーインフラを守る取り組みを進める。

今後数カ月にわたり、プロジェクト・グラスウィングを継続し、パートナー各社は、相互に情報やベストプラクティスを共有する。また、Anthropicは得られた知見や公開可能な修正済み脆弱性や改善点について、90日以内で公開報告を行なうとしている。