ニュース
フェイク画像に対抗する「来歴情報」とはなにか アドビとCAIの取り組み
2023年7月18日 15:31
アドビは18日、フェイク画像対策などに向けた「CAI」について、メディア向けに説明会を開催し、対応を呼び掛けた。画像に「来歴情報」を付与することで、コンテンツの真正性を確保するための取り組みとなる。
来歴情報は、すでにPhotoshopなどの機能として一部導入されている。作中の画像の編集内容やアイデンティティ情報を付与し、画像を書き出す際に、その情報を改ざん不可能なメタデータとして画像に添付。コンテンツ認証に利用できるというもの。こうした仕組みの採用をメディアに呼びかけ、フェイクニュースの抑制に取り組む。
フェイクニュースを防ぐ「CAI」
「CAI(Content Authenticity Initiative=コンテンツ認証イニシアチブ)」は、コンテンツ認証について、オープンな技術標準化を行ない、業界横断で利用できる基盤構築を行なうもの。
近年、画像や動画の改ざんは簡単になってきており、画像を偽ったフェイクニュースや恣意的な写真編集などが問題になっている。ソーシャルメディア上はフェイク画像が散見され、米国ではニュースキャスターのディープフェイクを使った偽情報が政治問題になった。台湾においては、ディープフェイクによる選挙妨害に対応するための法律も作られている。
こうした、偽画像・偽情報への対策として、コンテンツの信頼性を高め、権利を保護することを目指して2019年に発足したのが「CAI」だ。Adobeらが主導し、すで1,500のメンバーが参加。ITベンダーのほかメディア、ハードウェアメーカー、各種業界団体らも参加している。
誤情報への対策においては、メディアリテラシーなどの「教育」、法律などの「政策」、技術的対策による「検出」、そして「来歴」の4つが挙げられる。
例えば画像がフェイクかどうかを確認するには、リテラシー(教育)や技術(検出)での対策が進められている。しかし、フェイクの巧妙さが増し、その数も増大する中で、ファクトチェックのプロセスには時間とコストが掛かる「終わりなき戦い」になってしまう。つまり、「検証」より偽情報の「拡散」が強い状況となることが危惧される。
来歴でデジタルコンテンツの真正性を保つ
そこで、CAIが提案するのが「来歴」だ。
元々は、「絵画」で使われてきた手法で、「誰が書いた」だけでなく、「誰から誰に売られたか」など、コンテンツがどこからきて、どこにいくのかといった情報を都度付与していくことで正当性を証明していくという考え方だ。
同様の考え方をデジタルコンテンツに適用するのがCAIによる「来歴情報」となる。
カメラでの「撮影」、アドビのツールなどの「編集」、Webでの「公開」など、それぞれの工程において、コンテンツの認証情報を見ることでどのような変更が行なわれたかをわかるようにする。そのためにCAIに準拠したメタデータを組み込んでいく仕組みだ。
カメラでの撮影時には、どのカメラでいつ、誰によって撮影されたのかを記録。「どこで撮影」も追加可能で、こうした機能の実現のためにカメラがCAIに対応する必要がある。
そしてその写真がパソコンで現像されて、どのような修正が行なわれたか、そしてどのようなメディアで最初に公開されたか、などが記録される。こうした来歴情報により、画像の真正性を確認できるようにする。例えば「AIが使われている」場合は、画像にアラートを出す、といったような運用も可能という。
このCAIの仕組みは、C2PAという団体が定めた技術標準に基づいている。この仕組みはオープンソースで公開され、Adobeも規格策定に協力している。
市販の対応カメラはまだ存在しないが、ニコンやライカなどが賛同している。
また、写真にメタデータを組み込むほか、来歴情報を示すバッジをサムネイル上に表示し、タップすると詳細がわかる、といった仕組みも用意している。メディアの事例としては、Rolling Stone誌が、Webで公開されたボスニア紛争の写真において、CAIを付けた記事を公開し、後日の検証に使われたという。
なお、Adobeでは、生成AIの「Firefly」を開始しているが、このFireflyにおいては、CAIに対応済みであり、「Fireflyで作られた」旨が付記される。そのため、災害情報などで使われた場合、「これは生成AIで作られたものだ」と確認できるなど、「透明性の確保」に配慮し、偽情報対策を取っている。
EUにおいては、来歴情報へのコミットメントを発表しているほか、カリフォルニア州民主党のWebサイトでは、CAI情報を埋め込んで運用を開始。AIを推進する日本の政策においても、偽情報対策として来歴情報は有用とする。
CAI対応は「メディアから」
アドビとしては、「ビジネス的な利益の追求はない」ものの、「健全な社会のための技術」(アドビ西山正一CDO)として、CAIを推進。災害、防衛など、メディアや行政機関が発信するコンテンツに来歴情報を組み込み、その情報に信頼性をもたせることが、健全な社会の一助になるとする。
CAI対応については、JPEGファイルにメタデータを埋め込むという手法が一番シンプルな手法となる。そのほか、メタデータはコンテンツに付与ではなく、クラウド上に置いてWeb上で紐付ける手法や、ブロックチェーンを用いて厳密に管理する方法なども可能という。米Adobeのサンティアゴ ライオン氏(Head of CAI Advocacy and Education)は、クラウド上にメタデータを起き、ファイルからデータを参照する形を推奨するという。この仕組みであれば、「メタデータがファイルから省かれた場合もリカバーできる」(ライオン氏)とする。
現時点では対応カメラは発売されていないが、ニコンとライカから2023年後半から2024年初頭を目途に発売される見込み。また、ソニーやキヤノン、富士フイルムなどへの技術提案を進めている。また、スマートフォン各社とも話を進めており、対応時期は未定だが、「おそらく来年のいつか」(ライオン氏)との見込みを示した。
当初C2PAの推進役としてTwitterが入っていたが、現在は外れているなど、ソーシャルメディア側の対応が遅いようにも見えるが、情報の真正性を保つという趣旨から「まずはパブリッシャー/メディアから対応が始まる」(ライオン氏)と見込んでいる。メディアが公開した写真等から来歴情報への理解が進めば、広く一般向けに認知が広がり、そこでソーシャルメディアなどの対応機会となっていくという考えだ。そのため、日本のメディア各社にも来歴情報への対応を呼びかけた。