Instagramコミュニティを不適切なコンテンツから守るための新たな方法

2024年5月30日更新: いじめに対処するための制限機能を拡充し、特にティーンに向けてさらに多くの手段を提供します。親しい友達からのコメント、チャット、タグ、メンションしか表示されないように、やり取りを一時的に制限できるようになりました。

本日は、Instagramの利用者の皆さまを不適切なコンテンツから守るために役立つ新機能をご紹介します。

• 急に注目が集まったときにコメントやDMリクエストを制限できる機能
• 不快感を与える可能性があるコメントを投稿しようとした利用者への警告の強化
• 不適切なDMリクエストをフィルタリングできる「非表示ワード」機能のグローバル展開

当社には、すべての人がInstagramを安心して利用できるようにする責任があります。そのためInstagramでは、ヘイトスピーチやいじめを禁じており、そのようなコンテンツは見つけ次第削除しています。利用者の皆さまが不快な体験をすることがないよう、専門家やInstagramコミュニティの声に絶えず耳を傾け、利用者自身がInstagramでの体験をコントロールし、不快な体験を避けられるようにする新機能を開発しています。

「制限」機能: 受け取りたくないコメントやDMリクエストを簡単にブロック

不快なコメントやDMが大量に届いている、あるいは届くことが予想される場合に利用者が自分を守れるように、「制限」機能を導入します。この機能は簡単にオンにでき、自分をフォローしていない人や、最近フォローしたばかりの人からのコメントやDMリクエストを自動的に非表示にします。

この機能を開発したのは、知らない人から突然大量にコメントやDMリクエストが届くことがあるという報告が、クリエイターや著名人の方々から寄せられたためです。オリンピックでのメダル獲得のニュースが広まったためにサポーターが急増した、などのケースであれば問題ありませんが、受け取りたくないコメントやメッセージが殺到する場合もあります。そのような場合は、制限機能をオンにしてコメントやメッセージをブロックすることができます。

著名人へのネガティブな反応は、その人をフォローしていない利用者やフォローしたばかりの利用者から寄せられることが多く、こうした利用者は瞬間的に急増することが調査からわかっています。最近の例を挙げると、サッカーの2020年欧州選手権の決勝戦後、選手に対する人種差別的なコメントが大量に発生しました。これは受け入れられないことです。また、クリエイターの方々によれば、コメントやメッセージを完全に遮断することは望ましくありません。自らのコミュニティには耳を傾け、関係を強固にしたいからです。制限機能を利用すれば、長い間サポートしてくれているフォロワーには耳を傾けつつ、攻撃するためだけにアカウントをフォローしている利用者からのコメントやメッセージを制限できます。

制限機能は、本日より、世界中のInstagram利用者に提供されます。制限機能のオンとオフは、プライバシー設定からいつでも設定できます。Instagramでは、コメントやDMの急増を検出する方法についても検討中です。コメントやDMの急増を検出できれば、利用者に制限機能をオンにするよう通知できるからです。

嫌がらせに対する警告を強化

不快感を与える可能性があるコメントが投稿されようとすると警告を表示する機能は、以前からありました。そのようなコメントを複数回にわたって投稿しようとした利用者には、コミュニティガイドラインに従うよう注意を喚起するとともに、コメントを投稿しても削除または非表示になる可能性があるという、厳しい警告を表示していました。今後は、複数回ではなく、最初にそのような投稿を行おうとした時点で、この警告を表示します。

こうした警告は、人を傷つけるコンテンツの投稿を強く抑止することがわかりました。例えば、先週当社は1日平均で約100万回の警告を、不快感を及ぼす可能性があるコメントを行おうとしている人に表示しました。警告を受けた人の約50%は、コメントを編集または削除しました。

DMやコメント内の不適切なコンテンツへの対策

Instagramは最近、DMリクエストに含まれる不適切なコンテンツから利用者を守る「非表示ワード」の機能を発表しました。この機能は、不快感を与える言葉やフレーズ、絵文字などをフィルタリングして非表示フォルダーに格納します。フォルダーを開かない限り、不快なコンテンツが目に入ることはありません。スパムまたは悪質である可能性が高いDMリクエストもフィルタリングの対象になります。この機能は、今年になってからごく一部の国で運用を開始しましたが、今月末までには世界中で利用可能になる予定です。DM受信箱やストーリーズトレイの先頭にメッセージが届く、フォロワーの多いアカウントにはこの機能の利用を今後もおすすめしていきます。

その他には、不快感を及ぼす可能性がある言葉やハッシュタグ、絵文字で、自動的にコメントから削除されるもののリストを拡充しました。このリストは、今後も頻繁にアップデートされる予定です。また最近、[他のコメントを非表示にする]という新しいオプションを追加しました。このオプションを使うと、Instagramのルールに違反していなくても、有害な可能性のあるコメントを非表示にすることができます。

オンラインでの虐待や嫌がらせの撲滅に向けて

こうした新機能により、人種差別や性差別、同性愛嫌悪をはじめとするあらゆる不適切なコンテンツから利用者の皆さまをさらに強力に守れるようになることを期待しています。不適切なコンテンツをさらに迅速に見つけて削除できるよう改善したり、そのようなコンテンツの投稿者に責任を負わせたりするなど、当社ができることはほかにもたくさんあります。しかしその一方で、当社のプラットフォーム上で発生するヘイトと戦うためにあらゆる手段を講じたとしても、こうした問題の根絶は当社の手に余るものであることも理解しています。当社では今後も人種差別の撲滅に注力する組織に投資を続け、業界、政府、NGOなどと協力して、ヘイトの根絶に向けた啓蒙活動を行っていく予定です。こうした取り組みは、まだ終わっていません。進捗については、今後も皆さまとシェアしていく予定です。