AIが攻撃者の"補助ツール"に　グーグルが対策と最新脅威を報告

サイバーセキュリティの調査チーム「Google Threat Intelligence Group：Google脅威インテリジェンス(GTIG)」は、サイバーセキュリティの現状において、AIをめぐる脅威についての調査結果を発表した。攻撃者がAIを活用し始め、AIを組み込んだマルウェアなどが存在するほか、AI関連ツールやプラグインなども攻撃対象に狙われ始めているという。

従来、攻撃者は自分で時間をかけて脆弱性を探したり、攻撃コードを自分で書く必要があった。現在はAIに指示を与えることで、こうした作業が素早く簡単に行なえるようになってきている。例えば、GTIGはAIで開発された可能性が高いゼロデイ悪用コードをオープンソースのWebベース管理ツールにおいて確認しており、これは事前に情報開示を行なうことで大規模な悪用を防ぐことができた可能性があったという。

中国や北朝鮮に関連する攻撃者もAIを活用しており、LLMに「上級セキュリティ監査人」「C/C++バイナリ専門家」などの役割をロールプレイさせることで、脆弱性調査を行なっている事例がある。

AIを組み込んだマルウェアの例としては、「PROMPTSPY」などが挙げられている。GTIGは、こうした動きが「自律型攻撃オーケストレーション」への移行を示すものだとしている。これは、標的の情報収集や脆弱性の確認など、本来は人間が段階的に行なう攻撃準備を、AIや自動化ツールが組み合わせて進める動きを指す。PROMPTSPYは、Gemini APIを使ってAndroid端末のUI情報を解析し、クリックやスワイプなどの操作指示を生成できるという。

情報操作にもAI音声や合成メディアが使用されている。ロシア寄りの情報操作キャンペーン「Operation Overload」では、実在ジャーナリストになりすましたAI音声クローンが使われたという。GTIGは、AIによって既存の情報操作手法が高速化・低コスト化している一方、現時点では従来の手法よりも大きな脅威になっているとまでは言えないとしている。

生成AIにより、これまで人手で行なっていた攻撃準備を、より素早く、大量に行えるようになっている。AI本体だけでなく、AIを使うための周辺ツール、プラグイン、APIキー、関連サービスも狙われている。GTIGは、企業がこうしたAI関連の周辺領域についても管理を強化する必要があるとしている。