Facebook:AIで自殺予防

以前、Facebookが自殺予防ツールをリリースしたことをご紹介しました。しかし、これは第3者やそれに気付いた人がFacebookに積極的に通報することによる対処に過ぎませんでした。今回はFacebook側でAIが投稿内容を読み取ることで、専門対策チームが当事者に働きかけるというスキームになります。米国現地時間11月27日にFacebookが発表しました。まずはアメリカを対象にスタートするようです。

ピストル

ふわふわ

背景

特に海外では、Facebookのライブ動画を使って自殺する人が増えました。自分の命を絶つ際、その思いを訴えるにはFacebook Liveが適していると判断する人が多いのでしょう。そのためFacebookでは以前より自殺防止に積極的に取り組んできました。

同社は2011年から自殺防止対策に取り組んでおり、問題のある投稿についての報告をFacebookの専門対策チーム(Community Operationsチーム)がレビューし、必要に応じて報告されたユーザーにアドバイスのメッセージを表示している。

引用)ITmedia NEWS

ライブビデオというのは自殺を不当に美化するような影響を及ぼす可能性がある。また何が起きるか予測できないままに大勢の人間が同じシーンを見ることになる。録画されたビデオであれば公開前にプラットフォーム側で審査し、問題があれば公開を保留できる。したがってライブビデオの利用にあたって新たな予防措置が導入されるのはやむを得ない。

引用)TechCrunch Japan

ただ、当然Facebookの自殺専門対策チームに当事者が連絡するわけもなく、Facebook上の友達やそれを見たフォロワーからFacebookに報告することで、Facebook側から当事者と報告者に対応策を働きかけるという流れでした。ですのでどうしても自殺(予備)者を探し出すのに抜け漏れも生じるはずです。

ふわふわ

ついにAI

そこで、従来の第3者による連絡ではなく、Facebook側では投稿テキストや動画、コメント等においてAIを投入することで自殺(予備)者を検出する仕組みを導入することにしました。

ライブ動画時の自殺予防連絡

Facebookではこれまで自殺の危険性がある投稿について人力でリスクを判断していたが、今後はAIを用いて文章、画像を分析してスクリーニングを行う。このシステムは“are you OK?”(大丈夫かい?)や“Do you need help?”(何かできることはない?)のようなレスポンスにも着目するという。

引用)TechCrunch Japan

つまり、AIが各投稿内容をパトロールすることで、自殺を示唆するような投稿や内容を検知した際に専門チームへ通知される仕組みになります。通知を受けた専門チームが本人に働きかけるという仕組みです。

ふわふわ

今後のSNS犯罪とプライバシーポリシー

ここで問題になるのがプライバシーポリシー。個人的なやりとりがFacebookへ筒抜けになるという事実です。もちろんFacebookのプライバシーポリシーへの同意を行っているユーザーなので問題視はされないかもしれませんし、実際に各投稿をパトロールするのは人間ではなくAI(という人工知能)なので問題はないかもしれません。しかしどんな内容の投稿でもFacebook側では調べれば分かるということです。

同時にAIの精度がどんどん高まれば、昨今問題視されているリベンジポルノやいじめ等に関しても、検知しFacebook側で対処できるというわけです。これはSNS犯罪や悪事を減らすという点で好影響と取るか、プライバシーポリシーの問題で不安視するか、意見が分かれるかもしれませんね。ただ、今のインターネットメディアにおいては、どんなに制限をかけたネットワークであれ、やり取りした内容はログとして残るものだと充分理解しておいた方が良いです。どうしてもコミュニケーションを当事者間にとどめたい場合は…手紙か鳩が確実ですかね(笑)。

いずれにしましても、こうしたFacebookの新たな取り組みが今後LINEやTwitterをはじめとした全SNSでも広がれば、インターネットメディアの未来はまた新しい様相を呈するのかもしれません。


関連記事

人がメディア化する時代のYouTube

私は常々「人がメディア化している今の時代において、もはやプラットフォームはなんでも良い」と言っています。TwitterやYouTube、Instagram等のSNSが盛んになることで、ユーザーは当初そのプラットフォームの可能性を楽しんでいましたが、SNSが成長期から成熟期になるにつれ、プラットフォー ...(続きを読む)

Clubhouseを始める前に

連日マスコミでも取り上げていることもあり、Clubhouseの招待枠が1人5枠までロールアウトしていることを機に、アーリーアダプターからアーリーマジョリティまで利用者が広がっているようです。そこで、Clubhouseの利用を始める際、最初にClubhouse側から案内される招待記事を和訳しましたので ...(続きを読む)

音声SNS「Clubhouse」とは

久しぶりに世間を騒がすSNSプラットフォームのお話です。もうすっかりあちこちで話題になっているClubhouse(クラブハウス)ですね。すでにあちこちで色々な解説記事があがっていますが、一応私も触れておきたいと思います。 Clubhouseとは 2020年3月に米国ベンチャーが開発・リリースした音声 ...(続きを読む)

Twitterの透明性取り組み(17回目)

Twitterがブログで第17回「Twitterの透明性に関するレポート」からのインサイトについて発表しました。Twitter内の健全性のための世界的取り組みや措置について発表していますので、このブログでもご紹介しておきます。 Twitter透明性センター もともとTwitterでは2012年に公序 ...(続きを読む)

コメントを書く

コメントは承認から反映までしばらく時間がかかる場合がございます。メールアドレスが公開されることはございません。