Metaでは、米国現地時間4月5日、生成AI等によってもたらされたコンテンツに関して、一定の指標や情報元に基づき、“Made with AI”ラベルや“Imagined with AI”ラベルを添付して提供し、またメディアポリシーについても改訂することを発表しました。要は、FacebookやInstagram、ThreadsにおいてAIが生成した(事実に基づかない)投稿内容を判別し、それらには“AIによって生成されたコンテンツです”というラベルを貼ることで、利用者の混乱を防ぐというものです。同時に従来のメディアポリシーもまだAIの精度が動画リスクだけであったと感じた2020年に作成されたものだったので、このタイミングで新しく改訂するとのことです。
Metaからの発表内容
Metaは監督委員会(the Oversight Board)からの指摘に基づき、またその内容に同意し、慎重に検討した結果、今回のようなラベル付けを行った経緯を発表しています。今までMetaが“AIによるコンテンツですよ”と提供してきた対象は動画のみでした。しかし今回からは動画だけでなく画像や音声も対象となります。まずはMetaからの英文発表内容を和訳します。
AI生成コンテンツと情報操作されたメディアにラベルを付けるためのアプローチ
要点
- 監督委員会からのフィードバックや、世論調査や専門家との協議による方針検討プロセスに基づいて、改ざんしたメディアの取り扱い方法を変更します。
- 業界標準のAI画像インジケータを検出した場合、またはAIが生成したコンテンツをアップロードしていることを公表した場合、より広範な動画、音声、画像コンテンツに“Made with AI”のラベル付けを開始します。
- 私たちは、改ざんメディアに対処し、言論の自由を不必要に制限するリスクを回避するためには、透明性と追加的な文脈を提供することがより良い方法であるという監視委員会の勧告に同意します。
Metaでは、現在存在している多岐に渡るコンテンツに対し、ラベルを使ってコンテンツの文脈を提供すべく、その提供方法を更新すべきだという監視委員会からのフィードバックに基づき、Facebook、Instagram、Threadsにおける改ざんメディアの取り扱い方法を変更します。これらの変更は、広範な世論調査や学者、市民団体などとの協議を含むMetaのポリシー見直しプロセスにも基づいています。
私たちの従来のコンテンツ提供方法が、AIによって作成または改変され、然も誰かが言ったように見える対象を動画のみとしていたため、その対象範囲が狭すぎるという監視委員会の指摘に同意しました。Metaの情報操作に対するメディアポリシーは、AIが生成したコンテンツのほうがむしろ稀で、包括的な懸念が動画に関するもの程度であった2020年に制定されました。それからの4年間、特に昨年は、音声や写真など他の種類のリアルなAI生成コンテンツを開発する人々も登場し、このあたりの技術が急速に進化しました。監督委員会から指摘があったように、人がやっていないことをやっているように見せる情報操作に対処することも重要になってきています。
また監督委員会は、コミュニティ規定に違反していない改ざんメディアを削除することは、表現の自由を不必要に制限するリスクも孕んでいると考えています。そこで、監督委員会は、改ざんメディアに対して文脈を示すラベルを付与するような“最低限の制限に抑えた”提供方法を推奨してきました。Metaは2月、動画や音声を含むAIコンテンツを識別するための共通の技術標準について、業界のパートナーと協力してきたことを発表しました。AIによって生成された動画、音声、画像に対する“Made with AI”ラベルは、業界で共有されているAI画像のシグナルや、AIによって生成されたコンテンツをアップロードしていることを自己開示している人々の情報に基づいています。そして既に、Meta AI機能を使って作成された写実的な画像に対しては“Imagined with AI”というラベルを追加しています。
Metaは、透明性を持ち、また追記した文脈を提供することで、これらコンテンツに対処するための(監督委員会が提示した)より良い方法であることに同意しています。このラベルは、監督委員会がラベル付けを推奨した改ざんコンテンツに加えて、より広範なコンテンツを対象とすることになります。デジタルで作成または加工された画像、映像、音声が、重要な問題に関して公衆を著しく欺く危険性が特に高いと判断される場合、利用者がより多くの情報と文脈を得られるよう、より目立つラベルを追加する可能性があります。この網羅的な提供方法により、知容赦はコンテンツについてより多くの情報を得ることができ、より適切にコンテンツを評価することができるようになるでしょう。
コンテンツがMetaのポリシーに違反しない限り、情報ラベルと文脈をMeta側で追加できるようにしつつ引き続きMetaのプラットフォーム上にはコンテンツを表示できるようにします。例えば、有権者の妨害、いじめや嫌がらせ、暴力や扇動、あるいはコミュニティ規定のその他のポリシーに違反するコンテンツは、それがAIによって作成されたものであれ、個人によって作成されたものであれ、Meta側で削除します。Metaでは100人近い独立したファクトチェッカーのネットワークを持っており、AIが作成した虚偽や誤解を招くようなコンテンツに関しては引き続き審査しています。ファクトチェッカーがコンテンツを“False(虚偽)”または“Altered(改変)”と判断した場合、Metaはそのコンテンツをフィードの低い位置に表示し、目立つように追加情報を記載したオーバーレイラベルを追加します。また、広告に大げさな虚偽の主張や考えの内容が含まれる場合は、広告審査で掲載不可とします。1月以降、広告主側は特定領域における政治的、社会的問題の広告をデジタルで作成または変更した場合、その旨を開示する義務が生じています。
私たちは2024年5月からAIが生成したコンテンツへのラベル付けを開始し、情報操作された動画のみに基づくコンテンツの削除ポリシーを7月に改訂する予定です。このスケジュールにすることで、改ざんメディアの中でもごく一部でコンテンツ削除が始まる前に、利用者の自己開示におけるプロセス理解までの時間を設けます。
世界的な専門家と一般市民の調査から得たポリシープロセス
2023年春、Metaは生成AIの技術や利用方法の急速な進歩に対応すべく、新たなアプローチの必要性判断としてポリシーの再評価を開始しました。世界の主要34ヶ国、120人以上の関係者との協議を行いました。全体の意見として、AIが生成したコンテンツにラベルを付けることへの幅広い支持と、リスクの高い状況下ではより目立つラベルを付けることへの強い支持がありました。多くの関係者は、AIが生成したコンテンツであることを自己開示すべきという概念に好意的でした。
生成AIはクリエイティブな表現のための主流ツールになりつつあるため、削除対象とするのはコンテンツが危害に結びつく可能性のある最高リスク時のみに限定すべきであるという意見に、関係者の大半が同意しました。これは、Metaのコミュニティ規定の背景にある原則、つまり利用者はMetaのサービスを安全に利用しつつ、自由に自己表現できるという原則と一致しています。
Metaではまた、13ヶ国で23,000人以上の回答者を対象に世論調査を実施し、Metaのようなソーシャルメディア企業が自社のプラットフォーム上でAIが生成したコンテンツにどのようにアプローチすべきかを質問しました。そしてその大多数(82％)が、AIが生成したコンテンツに警告ラベルを付けることに賛成くださいました。
さらに監督委員会からは、その勧告が市民社会組織、学者、政府間組織、その他の専門家との協議に基づくものであるべきと受けています。
Metaは、監督委員会、専門家、一般市民からのフィードバックに基づき、Metaのようなプラットフォームにとって適切と思われる措置を講じています。Metaはまるで写真かのようにリアルな描写画像がAI作成によるものかどうか利用者が分かるようにしたいと考えています。そのため、今後もMetaはAIに関するパートナーシップのようなフォーラムを通じて業界の同業者と協力し、政府や市民社会との対話を続けていきます。
引用）about.fb.comより和訳
つまり、Meta保有のプラットフォームにおいて、5月より一斉に生成AIによる作成であると判断された画像や音声、動画について、“AIによるもの”というラベルを掲載するとのことです。また、AI生成によるものかどうかは様々な機関や専門家によってジャッジするそうですが、AIによる作成であれば自己申告してもらうよう推進もしています。AI作成によるもの自体が悪ではないため、そういった投稿を非掲載にすることは無いそうですが、危険性の高いものや公序良俗に反するもの等に関してはAI生成に関わらず強制的に削除するようです。また、それに伴って、メディアポリシーも7月に改訂するとのことでした。利用者が理解して対応できるよう猶予期間を設けるため3ヶ月程間を空けるようです。
まぁ、AI生成が悪いわけではないものの、誤解を防ぐために「AI生成だよ」と注意喚起するためのラベル付けですね。一方で、AIであれ人間であれ公序良俗に反すれば削除するという話です。
問われるプラットフォームの在り方
生成AIの登場によって投稿提供者と利用者を繋ぐプラットフォームに対してもその姿勢が求められています。個人的には、プラットフォームの責任の所在は難しいと思っていますし、ある程度免責される部分もあるのではないかと思っているのですが、世間はそうではないようですね。この辺に関してはMetaの取り組みは早い方なのではないでしょうか。Google検索も対応していますが、まだ精度が…という感じですし、YouTubeや𝕏、TikTok等はだいぶ遅れているように感じます。
特にMetaやGoogleは自分たちでも生成AIを独自開発していますので、利害がマッチポンプにならないよう細心の注意を払っているのでしょう。とはいえ、いずれにしてもエンドユーザーとなる我々も見る目を肥やし、正常に自己判断できるような知恵を持つ必要があると思います。
