FACEBOOKは、facebook内における情報操作に対する措置についての対応や姿勢を発表しました。特にディープフェイクに対しても触れていましたのでご紹介します。
ディープフェイクって？
昔で言えば「アイコラ(アイドルコラージュ)」でしょうか。有名人やアイドルの写真を使って、他の写真に重ね合わせることで、さも本人がそういう状況であるかのように加工・演出する手法ですね。エロ目的でコンピュータ処理して行われることが多かったです。しかし、これもAIやコンピュータのディープラーニング技術が発展することで、より精度の高い偽物を造成することが出来るようになってしまいました。それがディープフェイクと呼ばれ、それはモーションキャプチャー技術によって、画像だけでなく動画でも実現できるようになっています。有名なのは↓コチラのシーンですよね。映画のワンシーンにある女性の顔とその表情をニコラス・ケイジに変えています。
本物との違いに関して、詳しくはGIZMODEにてご確認ください。
また、FACEBOOKのマーク・ザッカーバーグ氏を使ったこの丸ごとディープフェイクも有名になりました。
facebookの対応として
facebookの影響力を考えますと、ディープフェイクによって個人への中傷だけでなく、政治利用や国家間の問題等まで悪用されかねません。そこでFACEBOOKでは以下の方針を取るとのことです。
協力体制は重要な鍵となります。私たちのポリシーについて共有し、情報操作の検出技術を改善するために、技術、政策、メディア、法律、市民および学術の分野に属する各国50名以上の専門家と世界中で対話を進めています。
ディープフェイクを見破るには、AI解析だけでなく…人間の目だけでなく…情報の裏付けやソース元の所在等、あらゆるパイプラインを駆使しなければならないでしょう。FACEBOOK側としては持てる資産はフル活用しようとする姿勢ですね。
- 明瞭さや音質の調整にとどまらず、一般の利用者には分からない形で、動画の被写体が実際には発言していない言葉を言ったと誤解させるような編集または合成がされていること。
- 人工知能または機械学習によって制作され、特定の動画に他のコンテンツを統合、置換、または重ね合わせて本物のように見せていること。
このポリシーは、パロディや風刺といったコンテンツ、または単語の省略やその順序変更のためだけに編集された動画には適用されません。
さて、ここで曖昧な境界線が登場するわけです。“パロディ”ですね。この“パロディ”の解釈がとにかく難しいと思います。個人感情や判断によって本気か冗談かが分かれるところになります。悪質な内容でも、投稿者に「そんなつもりじゃなかった。冗談のつもりだった」と言われればそれまでになってしまいます。ディープフェイクによる動画にせよ、その基となっているモデルが“そっくりさん”だった場合、もはや訳が分からなくなりますよね…。
だからこそ、厳罰やペナルティを課すわけにもいかず、現時点では「人を欺くことを目的とした情報操作として削除対象」止まりとしているのかもしれません。また、以下のように、著しく酷いものの、敢えて投稿を残しながら偽物ラベルを掲載することによって、大衆に“お触れ”として晒すという処置も考えているそうです。
いずれにしてもFACEBOOKは、様々なルートを活かしてディープフェイクに対する知見を高めると共に、悪質な投稿に対しては正しい措置を施そうとしています。
見る側の目も肥やす必要性
さて、ディープフェイクが完全且つ手軽に出来るようになったら、社会は酷いことになりそうですよね。ヴァーチャルに個人の欲望を満たすだけでなく、その道のカリスマを悪用した大衆扇動だって可能です。もはやGAFA等の大手プラットホームが対応できるスピードを遥かに超えて拡散されてしまうわけです。
そうなると結局、情報そのものを鵜呑みにするのではなく「その情報の出どころはどこか」という解釈まで含めて判断しなければならなくなるでしょう。今は未だ「ITリテラシー」という言葉が存在する世の中ですが、いずれ全員がITリテラシーを充分に持っている前提の世の中になります。「ITリテラシー」は死語になります。
それくらいの時期においては、当たり前のように「何を言ったか」よりも「誰が言ったか」が中心になることでしょう。
発信する側も、それを見る側もアイデンティティを持つことが重要ですね。
うーん…そうなると、GoogleのE-A-Tであれfacebookであれ、常に半歩先を正しく進んでいるような気がしますね。
