NVIDIA、オープンなAIセキュリティで新連合　MSやIBM、SpaceXAIら参加

NVIDIAは27日(米国時間)、AIを活用したサイバーセキュリティのためのオープンな技術やツールの構築と共有を目的とした団体「Open Secure AI Alliance」を創設した。オープンソースを活用し、単一障害点のない、大規模に分散されたコミュニティ主導かつ自律的な防御のための基盤づくりに取り組むとしている。

設立時のメンバーは、NVIDIAのほか、Adobe、Cisco、Cloudflare、Cognition、CrowdStrike、Databricks、Dell、DoorDash、HPE、Hugging Face、IBM、LangChain、Linux Foundation、Microsoft、NAVER、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Salesforce、SAP、SK Telecom、ServiceNow、Siemens、Snowflake、SpaceXAI、Synopsys、Thinking Machines Lab、TrendAIなど。

同団体では、世界には、クローズドなモデルとオープンなモデルの両方が必要だが、サイバーセキュリティにおいては、オープンなモデルとオープンなハーネスは不可欠と説明。その理由として、最近のHugging Faceにおけるセキュリティインシデントを挙げる。この問題は、OpenAIの強力な未公開モデルが社内テスト中にAIプラットフォームであるHugging Faceを攻撃、侵入したものだが、Hugging Faceは自社のインフラ上でオープンウェイトのGLM 5.2モデルを実行し、17,000件以上のアクションを分析し、侵入を封じ込めた。

クローズドなAIツールは攻撃者と防御者を区別できず、必要な分析をブロックしてしまったが、この対策が行なえたのもGLM 5.2がオープンに公開されており、対策に利用できたため。防御側が自社のインフラ上で高度なAIを検査・適応・実行できない場合、対応能力が制約されてしまう。クローズドなモデルに依存せず、防御側が、信頼し、制御できるオープンで最先端のツールを確実に手に入れられることが重要だと主張する。

また、AIの安全性とセキュリティは、モデルの重みがオープンかクローズドかという点だけでなく、アイデンティティ、権限、ハーネス、ガードレール、ログ、評価などのシステム全体での対応が必要で、アライアンスではこれらを組み合わせた「オープンな防御スタック」の構築を目指す。

そのため、NVIDIAはアライアンスにオープンなモデル、モデルウェイト、データ、エージェント・ハーネスなどを提供。また、オープンソースプロジェクトNVIDIA Labs Object-Oriented Agent (NOOA)をGitHubで公開する。HPEやHugging Face、IBM、Red Hat、Microsoft、SpaceXAIらも自社の技術や知見をアライアンスに提供する。SpaceXAIはAIコーディングエージェント「Grok Build」をオープンソース化したほか、Grokモデルシリーズのウェイトをオープンソース化する。

あわせて、政策立案者や規制当局に向けて、オープンなモデルなどをAI防御のための共有オープンインフラとして整備するよう提言。政府、産業界、研究者に向けてアライアンスへの参加を呼びかけている。

なお、27日時点では、OpenAIやGoogle、Anthropicは参加していない。