Instagramコミュニティを不適切なコンテンツから守る新ツールのご紹介

弊社はこのほど、Instagram上の不適切なコンテンツやヘイトスピーチに対処する取り組みについて、最新情報をリリースしました。その中には、不適切なダイレクトメッセージ(DM)の送信に対する厳罰化などが含まれます。今回は、不適切なコンテンツを含むDMリクエストがそもそも表示されないようにする新機能と、ブロック済みの人が新しいアカウントから連絡を取ろうとするのを防ぐ機能についてご紹介します。

不適切なメッセージをフィルタリングする新機能

弊社は、人種差別、性差別、同性愛嫌悪、およびその他のあらゆる不適切なコンテンツが人々に与える影響について理解しています。Instagramで、利用者の皆さまがそのような経験をしてはならないと考えます。しかし、不適切なコンテンツは一筋縄では解決できない問題であり、簡単に根絶できる類のものではありません。例えば、Instagram利用者の多くは、特に大勢のフォロワーを持っている場合、フォローしていない利用者から届いたDMリクエストの中に不適切なコンテンツが含まれているのを目にしたことがあります。

DMはプライベートなやり取りであることに配慮して、Instagramの他のコンテンツのような、ヘイトスピーチやいじめを積極的に検出する取り組みは行っていません。このことを踏まえ、利用者の皆さまが不適切な単語やフレーズ、絵文字を目にしなくても済むよう、オンにするとそうした表現を含むDMリクエストを自動的にフィルタリングするツールを新たに導入します。このツールが対象とするのは、友達からのメッセージが届く通常のDM受信箱ではなく、不適切な内容が含まれていることが多いDM「リクエスト」です。そのしくみは、すでに弊社が提供しているコメントフィルターに似ています。コメントフィルターでは、不適切なコメントを非表示にしたり、自分の投稿へのコメントに使用してほしくない単語を指定したりできます。コメントフィルターもDMリクエストのフィルターも、プライバシー設定内の新しい専用セクション「非表示ワード」でオンまたはオフにできます。

Instagramでは、反差別やいじめ防止に取り組む主要な団体と協力して、不適切な言葉を登録したリストを作成しました。この機能をオンにすると、このリストに含まれる言葉を含むDMリクエストがフィルタリングされます。傷つく言葉は人それぞれなので、自分専用のカスタムリストを作成し、DMリクエストで目にしたくない単語、フレーズ、絵文字を指定することもできます。事前登録済みのリストとカスタムリストに含まれる、不適切な単語、フレーズ、絵文字が記載されたDMリクエストはすべてフィルタリングされ、別の非表示リクエストフォルダーに自動的に仕分けされます。このフォルダーを開いても、メッセージのテキストは表示されないため、不適切な内容が目に入ることはありません。テキストを表示したい場合は、タップします。その後で、メッセージリクエストを承認するか、削除するか、報告するかを選択できます。

この新機能は、不快または不適切な可能性があるDMリクエストから利用者の皆さまを保護すると同時に、プライバシーにも配慮した設計になっています。メッセージのフィルタリングは、利用者ご自身のデバイスで行われます。そのため、この機能によって弊社のサーバーにメッセージのコンテンツが送り返されることはありません。つまり、この機能を利用しても、問題を報告しない限り、DMリクエストの内容が弊社に共有されることはないのです。

この機能は、今後数週間で複数の国に順次展開し、その後数か月をかけてさらに多くの国に拡大していく予定です。

迷惑な連絡を防ぐ新たな方法

Instagramですでにブロックした相手が新しいアカウントを通じて連絡しようとすることも、今後は困難になります。Instagramで他の利用者をブロックする際、現在のアカウントだけでなく、同じ相手が作成するかもしれない新しいアカウントも、あらかじめブロックできるようになるためです。この機能は、今後数週間で全世界でご利用いただけるようになります。

これは、望まない相手が繰り返し連絡を取ろうと試みるのを禁じる、嫌がらせに関するポリシーに沿ったものです。Instagramは再犯を許しません。ルール違反でアカウントを停止された人が新たにアカウントを作った場合は、見つけ次第削除します。

不適切なコンテンツに対処する継続的な取り組み

ルールに違反するコメントを事前に検出するためのテクノロジーに加えて、コメント内の不適切なコンテンツを管理できる多くのツールも提供しています。公開アカウントの場合、自分がフォローしているか、自分をフォローしている人にのみコメントを許可するオプションも用意されています。

また、手動で設定するコメントフィルターリストに登録した不適切な言葉については、今後はよくある誤字についても非表示になります。これにより、目にしたくない言葉に偶然または故意の誤字がある場合でも、コメント内に表示されることはなくなります。

弊社ができることはまだあります。いじめやオンラインでの不正行為との戦いに、今後も継続的に取り組んでいきます。私たちは、専門家、業界団体、青少年の皆さま、クリエイターの皆さま、著名人の方々と協力して、Instagramの利用体験に関する理解を深め、ポリシーや製品をどのように進化させれば、オンラインでの不適切な行為から利用者の皆さまを守っていけるか今後も追求していきます。