Facebook、フェイク動画は削除。「虚偽」ラベルも

Facebookは、人を欺く目的で写真や動画に手を加える、ディープフェイクなどの情報操作への対策を発表。フェイク動画の削除や警告方法を説明した。

情報操作には、Photoshop等による加工だけでなく、人工知能やディープラーニングを用いた高度なツールを利用して現実を歪曲させる動画(ディープフェイク動画)が作成される場合がある。

これらの情報操作やディープフェイク動画への対応として、Facebookでは、人工知能に生成されたコンテンツやフェイクアカウントの作成などの不正行為の調査を実施。それらの行為をしている人物を明らかにするため、研究者、政府、業界と提携し、各国50名以上の専門家と協議をを進め、人を欺く目的で制作された動画に対するポリシーを強化。基準を設け、対象の動画を情報操作として削除するとしている。

削除対象の基準は以下の通り

・明瞭さや音質の調整にとどまらず、一般の利用者には分からない形で、動画の被写体が実際には発言していない言葉を言ったと誤解させるような編集または合成がされていること。

・人工知能または機械学習によって制作され、特定の動画に他のコンテンツを統合、置換、または重ね合わせて本物のように見せていること。

なお、この基準は、パロディや風刺といったコンテンツ、または単語の省略やその順序変更のためだけに編集された動画には適用されない。

これらの削除基準を満たさない動画であっても、独立第三者機関による審査の対象となる。この第三者機関は世界に50以上の提携企業を擁し、40を超える言語でファクトチェックを実施。

ファクトチェックにより、写真や動画の全部または一部が虚偽と評価された場合、その投稿を見る人、シェアしようとする人、または既にシェアしている人に、それが虚偽であると警告を表示。虚偽と評価された動画等は、あえて削除せず「虚偽」のラベルをつけて残す。また、ニュースフィードでの表示は大幅に減り、広告として配信されている場合は取り消される。

Facebookは今後も、フェイクアカウントやその他の不正行為、情報操作されたコンテンツの特定に取り組み、効果的な解決法を見つけ出すため、この分野における投資や関係機関との協力を続けていくとしている。