facebook:ディープフェイク対策

FACEBOOKは、facebook内における情報操作に対する措置についての対応や姿勢を発表しました。特にディープフェイクに対しても触れていましたのでご紹介します。

facebookのtips

ふわふわ

ディープフェイクって?

昔で言えば「アイコラ(アイドルコラージュ)」でしょうか。有名人やアイドルの写真を使って、他の写真に重ね合わせることで、さも本人がそういう状況であるかのように加工・演出する手法ですね。エロ目的でコンピュータ処理して行われることが多かったです。しかし、これもAIやコンピュータのディープラーニング技術が発展することで、より精度の高い偽物を造成することが出来るようになってしまいました。それがディープフェイクと呼ばれ、それはモーションキャプチャー技術によって、画像だけでなく動画でも実現できるようになっています。有名なのは↓コチラのシーンですよね。映画のワンシーンにある女性の顔とその表情をニコラス・ケイジに変えています。

本物との違いに関して、詳しくはGIZMODEにてご確認ください。

また、FACEBOOKのマーク・ザッカーバーグ氏を使ったこの丸ごとディープフェイクも有名になりました。

ふわふわ

facebookの対応として

facebookの影響力を考えますと、ディープフェイクによって個人への中傷だけでなく、政治利用や国家間の問題等まで悪用されかねません。そこでFACEBOOKでは以下の方針を取るとのことです。

そこで、ディープフェイクや情報操作に対するFacebookの取り組みを紹介します。私たちのアプローチは複数の要素からなり、その範囲は人工知能(AI)によって生成されたコンテンツやフェイクアカウント作成など不正行為の調査から、これらの行為の背後にいる人々を明らかにするための研究者、政府、業界との提携など多岐に及びます。
協力体制は重要な鍵となります。私たちのポリシーについて共有し、情報操作の検出技術を改善するために、技術、政策、メディア、法律、市民および学術の分野に属する各国50名以上の専門家と世界中で対話を進めています。

引用)Facebookニュースルーム

ディープフェイクを見破るには、AI解析だけでなく…人間の目だけでなく…情報の裏付けやソース元の所在等、あらゆるパイプラインを駆使しなければならないでしょう。FACEBOOK側としては持てる資産はフル活用しようとする姿勢ですね。

これらのパートナーシップや協議の結果、ディープフェイクと特定されている、人を欺くことを目的として制作された動画に対するポリシーの強化を行います。今後は以下の基準に合致する場合、人を欺くことを目的とした情報操作として削除対象となります:

  • 明瞭さや音質の調整にとどまらず、一般の利用者には分からない形で、動画の被写体が実際には発言していない言葉を言ったと誤解させるような編集または合成がされていること。
  • 人工知能または機械学習によって制作され、特定の動画に他のコンテンツを統合、置換、または重ね合わせて本物のように見せていること。

このポリシーは、パロディや風刺といったコンテンツ、または単語の省略やその順序変更のためだけに編集された動画には適用されません。

引用)Facebookニュースルーム

さて、ここで曖昧な境界線が登場するわけです。“パロディ”ですね。この“パロディ”の解釈がとにかく難しいと思います。個人感情や判断によって本気か冗談かが分かれるところになります。悪質な内容でも、投稿者に「そんなつもりじゃなかった。冗談のつもりだった」と言われればそれまでになってしまいます。ディープフェイクによる動画にせよ、その基となっているモデルが“そっくりさん”だった場合、もはや訳が分からなくなりますよね…。
だからこそ、厳罰やペナルティを課すわけにもいかず、現時点では「人を欺くことを目的とした情報操作として削除対象」止まりとしているのかもしれません。また、以下のように、著しく酷いものの、敢えて投稿を残しながら偽物ラベルを掲載することによって、大衆に“お触れ”として晒すという処置も考えているそうです。

ファクトチェッカーによって虚偽と評価された、情報操作が行われた動画を単に削除するだけでは、その動画はインターネットまたはソーシャルメディアのエコシステム内のどこかで誰かの目に触れる状態のままとなります。それらをあえて削除せずに「虚偽」のラベルを付けて残すことにより、私たちは重要な情報と背景を利用者の皆様に提供できるのです。

引用)Facebookニュースルーム

いずれにしてもFACEBOOKは、様々なルートを活かしてディープフェイクに対する知見を高めると共に、悪質な投稿に対しては正しい措置を施そうとしています。

ふわふわ

見る側の目も肥やす必要性

さて、ディープフェイクが完全且つ手軽に出来るようになったら、社会は酷いことになりそうですよね。ヴァーチャルに個人の欲望を満たすだけでなく、その道のカリスマを悪用した大衆扇動だって可能です。もはやGAFA等の大手プラットホームが対応できるスピードを遥かに超えて拡散されてしまうわけです。

そうなると結局、情報そのものを鵜呑みにするのではなく「その情報の出どころはどこか」という解釈まで含めて判断しなければならなくなるでしょう。今は未だ「ITリテラシー」という言葉が存在する世の中ですが、いずれ全員がITリテラシーを充分に持っている前提の世の中になります。「ITリテラシー」は死語になります。
それくらいの時期においては、当たり前のように「何を言ったか」よりも「誰が言ったか」が中心になることでしょう。

発信する側も、それを見る側もアイデンティティを持つことが重要ですね。

うーん…そうなると、GoogleのE-A-Tであれfacebookであれ、常に半歩先を正しく進んでいるような気がしますね。


関連記事
2月21日、facebookでは、写真や動画のコピーを他社サービスへ転送できる機能を実装したことを発表しました。データポータビリティという概念から検証を重ねてようやく実装に至ったようですので、今回はそのご紹介をしたいと思います。 データポータビリティって? 文字通り「データの軽便化(手軽で便利にする ...(続きを読む)
先日、メンタリストDaiGo氏のYouTubeでも紹介されていました「やめると人生変わるSNSランキング」でInstagramが見事に1位でした(笑)。Instagramってそんなに人生を蝕むのでしょうか――考えてみたいと思います。 https://www.youtube.com/watch?v=S ...(続きを読む)
Facebookでは米国現地時間11月4日にアプリケーションとしてのFacebookとは別に、企業ロゴと社名を大文字にすることを発表しました。製品群と企業ロゴを“音”ではなく“形”で分けるみたいですね。 色がグラデーションシフトするイメージになるようで、近いうちに様々な局面で変更されていくとのことで ...(続きを読む)
Instagramでは、米国現地時間2019年10月2日、不当ないじめ等が起きないようアカウントを制限させる機能を世界的に実装したと発表しました。これによって、嫌なコメントに関しては当事者以外を非表示にしたり、ダイレクトメッセージを受け取れないようになりました。 どんな機能? アカウントによっては辛 ...(続きを読む)

コメントを書く

コメントは承認から反映までしばらく時間がかかる場合がございます。メールアドレスが公開されることはございません。