Claude、Chrome拡張でWeb操作　セキュリティが課題

Anthropicは27日、AIサービス「Claude」をChromeブラウザ上で直接動作できるChrome拡張機能「Claude for Chrome」を発表した。ユーザーはClaudeに対し、Webサイトの閲覧やクリック、フォーム入力などを指示可能となり、Webブラウザの有用性の向上が見込まれる。

本機能は現在、Claude Maxプラン(月額100ドル)を利用する1,000人のユーザーを対象に、パイロットテストとして提供されている。本テストを通じて、より強力な安全対策を開発して信頼性を高めながら、段階的な展開を目指す。

同社はClaude for Chromeの一般提供に向けた課題として、ブラウザ上で動作するAIにおけるセキュリティリスクを挙げている。なかでも、Webページやメールに仕込まれた悪意のある隠し命令によって、AIがユーザーの意図しない操作を行なってしまう「プロンプトインジェクション攻撃」を懸念しており、実際の社内テストでも、Claudeが悪意あるメールに反応して、ユーザーの許可なしにメールを削除する事例が確認されたという。

こうしたリスクに対処するため、同社は複数の対策を導入している。ユーザーはWebサイトごとにClaudeのアクセス権を設定できるほか、Claudeが購入や個人情報の入力といった高リスクな操作を行なう際には、ユーザーに確認を求める仕組みを導入している。また、金融やアダルトといった高リスクとされるカテゴリのWebサイトには、アクセス自体をブロックする制限も設けている。

Claudeに対し、ユーザーの許可なくメールを削除するよう要求する悪意のあるメール

対策前のClaudeは指示に従い、許可なくメールを削除した

対策後、Claudeは同メールをプロンプトインジェクション攻撃と認識し、メール削除を回避した

同社は、これらの対策の効果を29種類・123ケースの攻撃シナリオで検証し、プロンプトインジェクション攻撃の成功率を23.6％から11.2％まで低減したと報告。また、視認できないフォームやURL・タブタイトルを用いたWebブラウザ特有の攻撃に対しても、対策によって成功率を35.7％から0％にまで引き下げたとしている。

プロンプトインジェクション攻撃の成功率について