YouTube、AI生成のなりすまし検出を政治家・ジャーナリストへ拡大

YouTubeは3月10日、AI生成コンテンツにおける人物のなりすましを検出する機能「likeness detection(類似検出)」の提供対象を、政府関係者やジャーナリスト、政治候補者に拡大する試験運用を開始した。

同機能は、AIで生成された動画内に特定人物の顔などの外見が使用されていないかを検出する仕組み。該当するコンテンツが見つかった場合、対象者が内容を確認し、YouTubeのプライバシーガイドラインに違反していると判断した際には削除を申請できる。

検出されたコンテンツが必ず削除されるわけではなく、公共の利益や表現の自由の観点から、風刺やパロディといったコンテンツは例外として扱う場合があるとしている。

仕組みは、著作権コンテンツを検出する「Content ID」に近く、AI生成コンテンツの中から登録された人物の外見的特徴を検出し、該当する動画が見つかった場合に通知する。

同機能の利用には、参加者の本人確認が必要。登録時に提出されたデータは、本人確認と同機能の提供のみに使用され、Googleの生成AIモデルの学習には利用しないとしている。

YouTubeでは技術的な取り組みだけでなく、米国における「NO FAKES Act」の推進など、法的な枠組みの整備にも協力。国際的な枠組みへ拡大していくことを目指す。