Instagram:クソリプに事前アラーム

ちょっとSNSが前進するような話でしたので、ご紹介します。Instagramでは米国現地時間2019年7月8日、コメントにヘイトな内容(攻撃的だったり、貶めるような内容)が含まれている場合、AIが判断して一旦踏みとどまらせるスキームを導入すると発表しました

インスタ

ふわふわ

どんな内容?

簡単に言うと、Instagram内でコメントを入れる側が、攻撃的な内容を入力して投稿した場合、すぐにAIが検知して「以前に報告があったコメントと同様のコメントの場合は通知していますが、もう一度見直してみて」という案内表示がされます。そして、受け取った側はそのコメントを入れた人(アカウント)に制限機能を持たせることが出来ます。つまり、コメントを入力してもそのコメント入力者にしかコメントは見えず、受け取った側も他の人もコメントの存在すら確認できない機能です。

  • 投稿しようとしているコメントが他者を傷つける可能性がある場合、事前に通知して再考を促す機能
  • 特定のアカウントのコメントを非表示にし、ダイレクトメッセージに既読がつかない「制限」機能

引用)Facebookニュースルーム

以下のサンプルが一目瞭然に内容を理解できますね。

コメントに対する警告

コメントに対する警告1
コメントに対する警告2
コメントに対する警告3

アカウントに対する制御

アカウント制御1
アカウント制御2
アカウント制御3

AIと言っても、過去のフィードバックに寄せられたコメントをもとに形態素解析し、類似コメントに対してアラートが出る仕組みかと思われます。ディープラーニングとまで呼べるかどうか分かりませんし、現在のチャットボットと同じくらいの水準かと考えられますので、そこまで大それた仕組みではないかな、と。

大事なのは下記の点ですね。

Instagram上のいじめ行為を特定し、削除することは重要です。また、そのような行為に立ち向かえるよう、利用者をサポートする必要もあります。若い世代の利用者からヒアリングして分かったのは、状況が悪化するのを恐れて、いじめの加害者をブロックやフォロー解除、報告するのに消極的だということです。

引用)Facebookニュースルーム

ブロックしたりフォローを解除することで逆に反感を買いやすく、事態が悪化することを恐れ、泣き寝入りする人が多いようです。そこで今回Instagramでは、“そっとしておく”機能を追加したというわけですね。

ふわふわ

それでもSNSやる派?やらない派?

今回のこのInstagramの記事では「いじめ」という言葉を使っています。もちろん、いじめは大人の社会にもある問題です(ハラスメントと呼びますが)。しかし、大人であれば面倒なことが起きたらSNSを止めれば良いと思う人もいるでしょうし、実際嫌なことを感じて止めている人も多いと思います。しかし、学生や子供たちの中ではそうはいかないかもしれません。友達との会話に取り残されないために一生懸命だと思いますし、もはやSNSを退会することは退学することと同等なのかもしれません。

私はヘイトコンテンツは利用者が生むものだから、それは利用者間で考えるべきで、プラットホーム側に責は無いと思っていました。しかし利用者を促進・維持させるためには、品行方正なジャッジが出来るようプラットホーム側も取り組まなければならないということですね。今回のような繊細な機能を知ることで、少し私自身も考えが変わりました。


関連記事

Instagram:まとめ機能テスト

NAVERまとめが9月末で完全終了しますが、それに入れ替わるようにInstagramでまとめ記事を作れる機能が(日本を含め)テスト導入されました。Instagramが発表していますので、その内容をご紹介します。 発表内容と機能 簡単に言うと、他の人の投稿画像や動画を周辺情報含め一定のテーマに即してま ...(続きを読む)

InstagramでTikTok!?

米中対立によってTikTokが色々と槍玉に挙がっているタイミングで...Instagramは、米国現地時間2020年8月5日に「リール(Reels)」という新機能を発表しました。まぁ簡単に言えば、早送り等を含む簡易編集しながら音楽に合わせて15秒の短尺動画を作れる機能です。TikTokみたいなもので ...(続きを読む)

Twitter:ツイート単位でクソリプ防止

Twitter Japanでは8月11日、ツイート単位でリプライ(返信コメント)に制限を設ける機能を実装しました。2017年7月よりアカウント単位で制限することは出来ましたが、今回はツイート(投稿)単位で出来るようになりました。 どんな内容? Twitterブログによれば、今回の新機能はリプライに関 ...(続きを読む)

Instagram:ショップアイコン追加

Instagramが新しくショップアイコンタブを追加しましたので、そのご紹介です。発表では、虫眼鏡アイコンからショップを選択できると記載されていますが、私が見る限りですと、ショップアイコンタブが専用に出来ています。Instagramから即行でショッピングできるようになるのは便利ですね。 Instag ...(続きを読む)

コメントを書く

コメントは承認から反映までしばらく時間がかかる場合がございます。メールアドレスが公開されることはございません。