Google EarthのNano Banana画像生成、フェイク対策のため開始1日で停止

Googleは31日(米国時間)、Web版の「Google Earth」において30日に提供開始したばかりの画像生成機能を停止した。再開に向けて、より強力なガードレールを導入するなどの対策を進める。

Google Earthでは、30日から「Nano Banana 2」による画像生成に対応。Google Earth上の現実世界の衛星画像や航空写真、3D画像に、Nano Banana 2を活用することで、現実に根ざした新たな画像を作り出せるようにしていた。

この狙いとしては、ポンペイ遺跡のイメージを現在の場所に重ねたり、空き地にオープンスペースを備えた商業施設のイメージを作り出すなど都市計画での活用、100年後の未来を予測する、といった使い方を想定していた。

当初の利用イメージ

しかし、同機能の公開後には、メキシコ国境に偽の難民キャンプを作ったり、ホワイトハウスに巨大なトランプ大統領像を建てる、ビルに飛行機が衝突する、といった同機能を元にしたディープフェイク画像のスクリーンショットが公開された。

Nano Banana 2で作成される画像はAI生成を示すラベルが付与されるが、Googleのポリシーに反する画像を生む結果となったという。そのため、より強力なガードレールを構築するため、Google Earthの画像生成機能を一時停止することとした。