弊社では、Instagramを大好きな人やものとつながるための場所にしたいと考えています。しかし、現実世界と同じように、他人を不適切に扱う人が常に存在することも承知しています。最近では、英国のサッカー選手を標的とした人種差別的なオンラインでの不適切なコンテンツが問題になりました。Instagramでは、そのような行為は認められません。
現在、ダイレクトメッセージ(DM)での不正利用が多く見受けられています。Instagramのコメントと比べ、DMは対処が難しくなります。DMはプライベートなやり取りであるため、他の場所とは異なり、ヘイトスピーチやいじめなどのコンテンツをテクノロジーで事前に検出する取り組みは行っていません。しかし、そのような行為を防ぐためにできることは他にもあります。本日は、不適切なメッセージを送信するアカウントの削除や、DMの不正利用を減らすための新しいコントロールの開発など、新たな対策についてお知らせします。
ヘイトスピーチに対するInstagramの姿勢
ヘイトスピーチに関するInstagramのルールでは、人種や宗教などの保護特性を理由に人を攻撃することは許されていません。弊社は昨年、黒塗りの顔を描いたコンテンツやユダヤ人差別的なよくある比喩表現といったより暗示的なヘイトスピーチの形態を禁止するなどして、ヘイトスピーチに関するルールを強化しました。ヘイトスピーチを見つけ次第対処しているほか、検出ツールを絶えず改良することで、より迅速に見つけられるようにしています。昨年の7月～9月には、Instagramで650万件のヘイトスピーチに対処しました。DMも含まれており、その95%は利用者が報告する前に検出されました。
不適切なメッセージを送信した利用者に対する罰則を強化
本日、DMでInstagramのルールに違反する行為が確認された場合の措置を厳格化することをお知らせします。現在は、ルールに違反するDMを送信した利用者に対して、一定期間にわたってメッセージの送信を禁止しています。今後は、違反メッセージを繰り返し送信した場合、アカウントが停止されます。また、メッセージの送信制限を回避するために作成された新しいアカウントも無効にするほか、不適切なメッセージの送信のみを目的として作成されたアカウントを引き続き無効にします。
法執行機関と協力
ヘイトスピーチに関しては英国の法執行機関とも協力し、このようなケースにおける有効な情報開示要請に応じます。法執行機関からのすべての要請について、範囲が広すぎる場合、人権に抵触する場合、法的に有効でない場合には拒否します。
エクスペリエンスをコントロールするためのツール
Instagramのコメントに関しては、利用者が自分を守るためのさまざまなツールを用意しています。コメントフィルターは、目にしたくない特定の単語、フレーズ、絵文字などを使用した不快なコメントを他の利用者が残せないようにする機能です。昨年、望ましくない複数のコメントを一括して管理できる新機能を発表しました。この機能により、望ましくないコメントをまとめて削除したり、そのようなコメントを投稿したアカウントを一括ブロックしたりできるようになりました。また、人を傷つける可能性のある内容を投稿しようとしている利用者に警告を表示するためにAIの利用を開始することにより、不適切なコメントが大幅に減少しました。
DMはプライベートな会話であるため、利用者がDMでヘイトコンテンツや嫌がらせのコンテンツを目にすることがないようにするには、さらなる困難が伴います。ビジネスアカウントやクリエイターアカウントはフォロワーが多く、知らない人から特に多くの不適切なメッセージを受け取る傾向があります。これらのアカウントでは、フォローしていない人からのDMをオフにするオプションがあります。また、多くの国で個人用アカウントを対象にこれらのコントロールの展開を開始しており、近いうちにすべての利用者に提供できるようにしたいと考えています。知らない人からのタグやメンションをオフにしたり、望まないメッセージを送信してくる人をブロックしたりすることもできます。
最近コミュニティと交わした会話から、不適切な内容のDMを目にするだけでストレスがたまることが明らかになりました。現在、この問題を解決するために、コミュニティからのフィードバックを取り入れた新しい機能の開発に取り組んでいます。これについては数か月以内にリリースできればと考えています。
当社のプラットフォーム上で発生するヘイトや人種差別と戦うためにあらゆる手段を講じていますが、こうした問題の根絶は当社の手に余ることも理解しています。オンラインとオフラインの両方で、他の企業、サッカー団体、NGO、政府、保護者、教育者との連携を進めていきたいと考えています。
関連記事