Facebook:AIで自殺予防

以前、Facebookが自殺予防ツールをリリースしたことをご紹介しました。しかし、これは第3者やそれに気付いた人がFacebookに積極的に通報することによる対処に過ぎませんでした。今回はFacebook側でAIが投稿内容を読み取ることで、専門対策チームが当事者に働きかけるというスキームになります。米国現地時間11月27日にFacebookが発表しました。まずはアメリカを対象にスタートするようです。

ピストル

ふわふわ

背景

特に海外では、Facebookのライブ動画を使って自殺する人が増えました。自分の命を絶つ際、その思いを訴えるにはFacebook Liveが適していると判断する人が多いのでしょう。そのためFacebookでは以前より自殺防止に積極的に取り組んできました。

同社は2011年から自殺防止対策に取り組んでおり、問題のある投稿についての報告をFacebookの専門対策チーム(Community Operationsチーム)がレビューし、必要に応じて報告されたユーザーにアドバイスのメッセージを表示している。

引用)ITmedia NEWS

ライブビデオというのは自殺を不当に美化するような影響を及ぼす可能性がある。また何が起きるか予測できないままに大勢の人間が同じシーンを見ることになる。録画されたビデオであれば公開前にプラットフォーム側で審査し、問題があれば公開を保留できる。したがってライブビデオの利用にあたって新たな予防措置が導入されるのはやむを得ない。

引用)TechCrunch Japan

ただ、当然Facebookの自殺専門対策チームに当事者が連絡するわけもなく、Facebook上の友達やそれを見たフォロワーからFacebookに報告することで、Facebook側から当事者と報告者に対応策を働きかけるという流れでした。ですのでどうしても自殺(予備)者を探し出すのに抜け漏れも生じるはずです。

ふわふわ

ついにAI

そこで、従来の第3者による連絡ではなく、Facebook側では投稿テキストや動画、コメント等においてAIを投入することで自殺(予備)者を検出する仕組みを導入することにしました。

ライブ動画時の自殺予防連絡

Facebookではこれまで自殺の危険性がある投稿について人力でリスクを判断していたが、今後はAIを用いて文章、画像を分析してスクリーニングを行う。このシステムは“are you OK?”(大丈夫かい?)や“Do you need help?”(何かできることはない?)のようなレスポンスにも着目するという。

引用)TechCrunch Japan

つまり、AIが各投稿内容をパトロールすることで、自殺を示唆するような投稿や内容を検知した際に専門チームへ通知される仕組みになります。通知を受けた専門チームが本人に働きかけるという仕組みです。

ふわふわ

今後のSNS犯罪とプライバシーポリシー

ここで問題になるのがプライバシーポリシー。個人的なやりとりがFacebookへ筒抜けになるという事実です。もちろんFacebookのプライバシーポリシーへの同意を行っているユーザーなので問題視はされないかもしれませんし、実際に各投稿をパトロールするのは人間ではなくAI(という人工知能)なので問題はないかもしれません。しかしどんな内容の投稿でもFacebook側では調べれば分かるということです。

同時にAIの精度がどんどん高まれば、昨今問題視されているリベンジポルノやいじめ等に関しても、検知しFacebook側で対処できるというわけです。これはSNS犯罪や悪事を減らすという点で好影響と取るか、プライバシーポリシーの問題で不安視するか、意見が分かれるかもしれませんね。ただ、今のインターネットメディアにおいては、どんなに制限をかけたネットワークであれ、やり取りした内容はログとして残るものだと充分理解しておいた方が良いです。どうしてもコミュニケーションを当事者間にとどめたい場合は…手紙か鳩が確実ですかね(笑)。

いずれにしましても、こうしたFacebookの新たな取り組みが今後LINEやTwitterをはじめとした全SNSでも広がれば、インターネットメディアの未来はまた新しい様相を呈するのかもしれません。