ネット上のいじめと戦うInstagram。AIを駆使し、攻撃者に気付かれないようにユーザーを守る新機能を導入

若者に人気のInstagramは「いじめ行為の対策においては、業界を牽引する存在になることを目標としている」といい、新しく2つのいじめ対策機能を追加すると発表しました。

Instagramがいじめ行為を防ぐ2つの機能を新たに追加することを発表しました。

ひとつめは、投稿しようとしているコメントが他者を傷つける可能性がある場合、事前に通知して考え直すよう促す機能。

Instagram

これは誹謗中傷のコメントを未然に防ぐために作られました。

Instagramは「相手を不快にさせる可能性があるコメントをAIで特定し、投稿しようとしている利用者に事前に通知」するテストを数日前に開始。

まだテストの初期段階と言及しつつも、同社によると「通知によって一部の利用者は投稿する前に内容を考え直し、コメントを取り消したり、控えめな表現に変えたりすることがある」ことがわかっているそうです。

ふたつめは、特定のアカウントのコメントを非表示にし、ダイレクトメッセージに既読がつかない「制限」機能。

Instagram

近日中には、いじめの加害者に知られることなく、誹謗中傷から身を護るための「制限」機能の導入されます。

特定のアカウントを制限すると、該当アカウントのコメントは「投稿者のみに表示」されるようになります。同時に、相手には自分がInstagram上でオンラインであることや、DMを既読したことも表示されません。

自分が制限アカウントからのコメントを承認すれば表示することも可能です。

Instagramはこの新機能について以下のように説明しています。

「若い世代の利用者からヒアリングして分かったのは、状況が悪化するのを恐れて、いじめの加害者をブロックやフォロー解除、報告するのに消極的だということです」

「実生活で相手と会ったり話したりしなければならない場合は尚更です。また、そのような行動を取ると、加害者がどのような態度をとっているのか把握するのが難しくなることもあります」

少しずつ追加されてきた「いじめへの対抗機能」

↑いじめコメントを自動的にブロックし、非表示にするフィルター / Instagram / Via instagram-press.com

これまでInstagramでは、いじめ対策への機能を少しずつ追加してきました。

2017年には不適切なコメントをブロックするフィルターを導入され、2018年には機械学習によっていじめと思われる写真やキャプションを検出する技術などが新しく加わりました。

特に若いユーザーから人気のInstagram。同社は「今後も、いじめ問題に対する理解を深め、対策のために投資を続けていきます」と語ります。