Anthropic、AIの軍事利用について米国防総省の要求を拒否

Anthropicのダリオ・アモディCEOは26日(米国時間)、米国国防総省から要求されているAIの軍における活用拡大について、譲歩を拒否する声明を発表した。

同社では、「Claude」などのAIモデルを国防総省や国家安全保障機関に提供し、情報分析、モデリング・シミュレーション、作戦計画、サイバー作戦などミッションクリティカルな用途向けに導入されている。また、米国がAI分野でリードを維持できるよう、中国共産党関連企業によるClaudeの利用制限などで、政府に協力してきたという。

一方AIは、民主主義的価値を損なう可能性もある。Anthropicでは、国防総省との契約において、「国内における大規模監視」「完全自律型兵器」などは含まれておらず、「今後も含まれるべきではない」としている。

Anthropicのダリオ・アモディCEO(25年10月撮影)

国内におけるAI駆動型大規模監視は、基本的自由に対する新たなリスクをもたらし、プライバシーの面でも大きな問題がある。完全自律型兵器は、システム信頼性向上のための共同研究が受け入れられず、現時点では安全装置が存在しないとしている。

戦争省(The Department of War)の声明では、「あらゆる合法的使用」に同意し、安全対策を撤廃するAI企業のみ契約すると表明しており、Anthropicが安全対策を維持する場合、システムから排除すると告げ、Anthropicを外国の敵対者とみなす「サプライチェーンリスク」指定するという。

Anthropicでは、「我々を安全保障上のリスクと烙印しながら、一方でClaudeを国家安全保障に不可欠と位置づけるのは矛盾している」と反論し、「立場を変えず、良心に従い、彼ら(国防総省)の要求を受け入れることはできない」と表明している。

Anthropicでは、「我々は、要請した二つの安全対策を維持したまま、国防総省と戦闘員への支援を継続することを望む。仮に国防総省がAnthropicとの契約解除を選択した場合、進行中の軍事計画・作戦・その他の重要任務に支障を来さぬよう、他プロバイダーへの円滑な移行を支援する」と述べている。