Instagramコミュニティを不適切なコンテンツから守るための新たな方法

By Adam Mosseri

2021年8月10日

本日は、Instagramの利用者の皆さまを不快な体験から守る、次のような新機能をご紹介します。

  • 急に注目が集まったアカウントへのコメントやDMリクエストの抑制
  • 不快感を与える可能性があるコメントを投稿しようとした利用者への警告を強化
  • 不適切なDMリクエストのフィルタリングを行う「非表示ワード」の機能をグローバルに導入

弊社には、すべての人がInstagramを安心して利用できるようにする責任があります。そのためInstagramでは、ヘイトスピーチやいじめを禁じており、そのようなコンテンツは見つけ次第削除しています。弊社は、利用者の皆さまが不快な体験をすることがないよう、専門家やInstagramコミュニティの声に絶えず耳を傾け、利用者自身がInstagramでの体験をコントロールし、不快な体験を避けられるようにする新機能を開発しています。

「抑制」の機能: 受け取りたくないコメントやDMリクエストを簡単にブロック

不快なコメントやDMが大量に届いている、あるいは届くことが予想される場合に利用者が自分を守れるように、「抑制」の機能を導入します。この機能は簡単にオンにでき、自分をフォローしていない人や、最近フォローしたばかりの人からのコメントやDMリクエストを自動的に非表示にします。

この機能を開発したのは、知らない人から突然大量にコメントやDMリクエストが届くことがあるという報告が、クリエイターや著名人の方々から寄せられたためです。オリンピックでのメダル獲得のニュースが広まったためにサポーターが急増した、などのケースであれば問題ありませんが、受け取りたくないコメントやメッセージが殺到する場合もあります。そのような場合は、抑制機能をオンにしてコメントやメッセージをブロックすることができます。

著名人へのネガティブな反応は、その人をフォローしていない利用者やフォローしたばかりの利用者から寄せられることが多く、こうした利用者は瞬間的に急増することが調査からわかっています。最近の例を挙げると、サッカーの2020年欧州選手権の決勝戦後、選手に対する人種差別的なコメントが大量に発生しました。これは受け入れられないことです。また、クリエイターの方々によれば、コメントやメッセージを完全に遮断することは望ましくありません。自らのコミュニティには耳を傾け、関係を強固にしたいからです。抑制機能を利用すれば、長い間サポートしてくれているフォロワーには耳を傾けつつ、攻撃するためだけにアカウントをフォローしている利用者からのコメントやメッセージを抑制できます。

抑制の機能は、本日より、世界中のInstagram利用者に提供されます。抑制機能のオン・オフは、プライバシー設定からいつでも設定できます。Instagramでは、コメントやDMの急増を検出する方法についても検討中です。コメントやDMの急増を検出できれば、利用者に抑制機能をオンにするよう通知できるからです。

嫌がらせに対する警告を強化

不快感を与える可能性があるコメントが投稿されようとすると警告を表示する機能は、以前からありました。そのようなコメントを複数回にわたって投稿しようとした利用者には、コミュニティガイドラインに従うよう注意を喚起するとともに、コメントを投稿しても削除または非表示になる可能性があるという、厳しい警告を表示していました。今後は、複数回ではなく、最初にそのような投稿を行おうとした時点で、この警告を表示します。

こうした警告は、人を傷つけるコンテンツの投稿を強く抑止することがわかりました。例えば、先週弊社は1日平均で約100万回の警告を、不快感を及ぼす可能性があるコメントを行おうとしている人に表示しました。警告を受けた人の約50%は、コメントを編集または削除しました。

DMやコメント内の不適切なコンテンツへの対策

Instagramは最近、DMリクエストに含まれる不適切なコンテンツから利用者を守る「非表示ワード」の機能を発表しました。この機能は、不快感を与える言葉やフレーズ、絵文字などをフィルタリングして非表示フォルダーに格納します。フォルダーを開かない限り、不快なコンテンツが目に入ることはありません。スパムまたは低品質である可能性が高いDMリクエストもフィルタリングの対象になります。この機能は、今年になってからごく一部の国で運用を開始しましたが、今月末までには世界中で利用可能になる予定です。DM受信箱やストーリーズトレイの先頭にメッセージが届く、フォロワーの多いアカウントにはこの機能の利用を今後もおすすめしていきます。

その他には、不快感を及ぼす可能性がある言葉やハッシュタグ、絵文字で、自動的にコメントから削除されるもののリストが拡張されました。このリストは、今後も頻繁にアップデートされる予定です。また最近、[他のコメントを非表示にする]という新しいオプションを追加しました。このオプションを使うと、Instagramのルールに違反していなくても、有害な可能性のあるコメントを非表示にすることができます。

オンラインでの虐待や嫌がらせの撲滅に向けて

こうした新機能により、人種差別や性差別、同性愛嫌悪をはじめとするあらゆる不適切なコンテンツから利用者の皆さまをさらに強力に守れるようになることを期待しています。不適切なコンテンツをもっと素早く見つけて削除できるよう改善したり、そのようなコンテンツを投稿した利用者の責任を追求したりするなど、弊社ができることは他にもたくさんあります。しかしながらその一方で、弊社のプラットフォーム上で発生するヘイトと戦うためにあらゆる手段を講じたとしても、こうした問題の根絶は弊社の手に余るものであることも理解しています。弊社では今後も人種差別の撤廃に注力する組織に投資を続け、業界、政府、NGOなどと協力して、ヘイトの根絶に向けた啓蒙活動を行っていく予定です。こうした取り組みは、まだ終わっていません。進捗については、今後も皆さまとシェアしていく予定です。

関連記事

Instagramに関する他のお知らせをチェックしよう