Facebook:AIで自殺予防

以前、Facebookが自殺予防ツールをリリースしたことをご紹介しました。しかし、これは第3者やそれに気付いた人がFacebookに積極的に通報することによる対処に過ぎませんでした。今回はFacebook側でAIが投稿内容を読み取ることで、専門対策チームが当事者に働きかけるというスキームになります。米国現地時間11月27日にFacebookが発表しました。まずはアメリカを対象にスタートするようです。

ピストル

ふわふわ

背景

特に海外では、Facebookのライブ動画を使って自殺する人が増えました。自分の命を絶つ際、その思いを訴えるにはFacebook Liveが適していると判断する人が多いのでしょう。そのためFacebookでは以前より自殺防止に積極的に取り組んできました。

同社は2011年から自殺防止対策に取り組んでおり、問題のある投稿についての報告をFacebookの専門対策チーム(Community Operationsチーム)がレビューし、必要に応じて報告されたユーザーにアドバイスのメッセージを表示している。

引用)ITmedia NEWS

ライブビデオというのは自殺を不当に美化するような影響を及ぼす可能性がある。また何が起きるか予測できないままに大勢の人間が同じシーンを見ることになる。録画されたビデオであれば公開前にプラットフォーム側で審査し、問題があれば公開を保留できる。したがってライブビデオの利用にあたって新たな予防措置が導入されるのはやむを得ない。

引用)TechCrunch Japan

ただ、当然Facebookの自殺専門対策チームに当事者が連絡するわけもなく、Facebook上の友達やそれを見たフォロワーからFacebookに報告することで、Facebook側から当事者と報告者に対応策を働きかけるという流れでした。ですのでどうしても自殺(予備)者を探し出すのに抜け漏れも生じるはずです。

ふわふわ

ついにAI

そこで、従来の第3者による連絡ではなく、Facebook側では投稿テキストや動画、コメント等においてAIを投入することで自殺(予備)者を検出する仕組みを導入することにしました。

ライブ動画時の自殺予防連絡

Facebookではこれまで自殺の危険性がある投稿について人力でリスクを判断していたが、今後はAIを用いて文章、画像を分析してスクリーニングを行う。このシステムは“are you OK?”(大丈夫かい?)や“Do you need help?”(何かできることはない?)のようなレスポンスにも着目するという。

引用)TechCrunch Japan

つまり、AIが各投稿内容をパトロールすることで、自殺を示唆するような投稿や内容を検知した際に専門チームへ通知される仕組みになります。通知を受けた専門チームが本人に働きかけるという仕組みです。

ふわふわ

今後のSNS犯罪とプライバシーポリシー

ここで問題になるのがプライバシーポリシー。個人的なやりとりがFacebookへ筒抜けになるという事実です。もちろんFacebookのプライバシーポリシーへの同意を行っているユーザーなので問題視はされないかもしれませんし、実際に各投稿をパトロールするのは人間ではなくAI(という人工知能)なので問題はないかもしれません。しかしどんな内容の投稿でもFacebook側では調べれば分かるということです。

同時にAIの精度がどんどん高まれば、昨今問題視されているリベンジポルノやいじめ等に関しても、検知しFacebook側で対処できるというわけです。これはSNS犯罪や悪事を減らすという点で好影響と取るか、プライバシーポリシーの問題で不安視するか、意見が分かれるかもしれませんね。ただ、今のインターネットメディアにおいては、どんなに制限をかけたネットワークであれ、やり取りした内容はログとして残るものだと充分理解しておいた方が良いです。どうしてもコミュニケーションを当事者間にとどめたい場合は…手紙か鳩が確実ですかね(笑)。

いずれにしましても、こうしたFacebookの新たな取り組みが今後LINEやTwitterをはじめとした全SNSでも広がれば、インターネットメディアの未来はまた新しい様相を呈するのかもしれません。


関連記事

Twitter:フリート機能

Twitterが2020年11月11日よりフリート(Fleets)機能を実装しました(「ee」と重ねるのはTweetからの語呂合わせでしょうか)。24時間で消えるツイートです。画像や動画だけでなくテキストの色や配置もいじれます。Instagramのストーリーズ機能にめちゃくちゃ似ています。 フリート ...(続きを読む)

Instagram:ライブ配信機能拡張

Instagramでは、新型コロナ禍において、今までもライブ配信やIGTVに関してデスクトップでも利用できるようになったりして機能拡張をしてきましたが、この度ライブ配信に関して更なる機能拡張をしました。ライブ配信時間がそれまでの1時間から最大4時間までになったことが大きな拡張ポイントですかね。米国現 ...(続きを読む)

Instagram10周年

Instagramが2010年10月6日に誕生して10歳になりました。おめでたいですね。日本だけでも月間アクティブアカウントが3,300万を超えています。今回、新機能もありましたので、ちょっとだけご紹介します。 Instagramの軌跡 ここ10年間でInstagramがどう進化したかは、専用の英語 ...(続きを読む)

Instagram:まとめ機能テスト

NAVERまとめが9月末で完全終了しますが、それに入れ替わるようにInstagramでまとめ記事を作れる機能が(日本を含め)テスト導入されました。Instagramが発表していますので、その内容をご紹介します。 発表内容と機能 簡単に言うと、他の人の投稿画像や動画を周辺情報含め一定のテーマに即してま ...(続きを読む)

コメントを書く

コメントは承認から反映までしばらく時間がかかる場合がございます。メールアドレスが公開されることはございません。