ニュース

OpenAIとAnthropic、最新モデルの事前共有で米国AI安全研究所と合意

  • 臼田勤哉

2024年8月30日 13:15

米商務省 標準技術局(NIST)のAI安全研究所は、AnthropicとOpenAIの両社と、AIの安全性に関する研究、試験、評価に関して協力する契約を締結した。これにより、両社の最新モデルに公開前にAI安全研究所がアクセス可能になる。

OpenAIとAnthropicの公開前・公開後の主要な新モデルにAI安全研究所がアクセスし、協力して安全リスクの評価方法、リスクを軽減する方法などについて共同研究を実施。両者に対してフィードバックする。AI安全研究所では「AIの未来を責任を持って見守るための重要なマイルストーン」としている。

OpenAIのサム・アルトマンCEOは、「将来のモデルの発売前テストで、米国AI安全研究所と合意に達することができて嬉しい。多くの理由から、これが国家レベルで行なわれることが重要だ。米国は引き続き主導的役割を果たす必要がある」とXに投稿している。