Instagramコミュニティを不適切なコンテンツから守る新ツールのご紹介

2021年4月21日

弊社はこのほど、Instagram上の不適切なコンテンツやヘイトスピーチに対処する取り組みについて、最新情報をリリースしました。その中には、不適切なダイレクトメッセージ(DM)の送信に対する厳罰化などが含まれます。今回は、不適切なコンテンツを含むDMリクエストがそもそも表示されないようにする機能と、ブロック済みの人が新しいアカウントから連絡を取ろうとするのを防ぐ機能についてご紹介します。

不適切なメッセージをフィルタリングする新機能

言葉を非表示にする機能のスマートフォンでの使用例

弊社は、人種差別、性差別、同性愛嫌悪、およびその他のあらゆる不適切なコンテンツが人びとに与える影響について理解しています。Instagramにおいて、利用者の皆さまがそのような経験をしてはならないと考えています。しかし、不適切なコンテンツは一筋縄では解決できない問題であり、ひとつの手段で根絶できる類のものではありません。例えば、Instagram利用者の多くは、特に大勢のフォロワーを持っている場合、フォローしていない利用者から届いたDMリクエストの中に不適切なコンテンツが含まれているのを目にしたことがあります。

DMはプライベートなやりとりであることに配慮して、Instagramの他のコンテンツのような、ヘイトスピーチやいじめを積極的に検出する取り組みは行っていません。このことを踏まえ、利用者の皆さまが不適切な単語やフレーズ、絵文字を目にしなくても済むよう、オンにするとそうした表現を含むDMリクエストを自動的にフィルタリングするツールを新たに導入します。このツールが対象とするのは、友達からのメッセージが届く通常のDM受信箱ではなく、不適切な内容が含まれていることが多いDMリクエストです。そのしくみは、すでに弊社が提供しているコメントフィルターに似ています。コメントフィルターでは、不適切なコメントを非表示にしたり、自分の投稿へのコメントに使用して欲しくない単語を指定したりできます。コメントフィルターもDMリクエストのフィルターも、プライバシー設定内の、言葉を非表示にする機能の新しい専用セクションで、オンまたはオフにできます。

Instagramでは、反差別団体やいじめ防止に取り組む団体と協力して、不適切な言葉を登録したリストを作成しました。この機能をオンにすると、このリストに含まれる言葉を含むDMリクエストがフィルタリングされます。傷つく言葉は人それぞれなので、自分専用のカスタムリストを作成し、DMリクエストで目にしたくない単語、フレーズ、絵文字を指定することもできます。事前登録済みのリストとカスタムリストに含まれる、不適切な単語、フレーズ、絵文字が記載されたDMリクエストはすべてフィルタリングされ、別の非表示リクエストフォルダに自動的に仕分けされます。このフォルダを開いても、メッセージのテキストは表示されないため、不適切な内容が目に入ることはありません。テキストを表示したい場合は、タップします。その後で、メッセージリクエストを承認するか、削除するか、報告するかを選択できます。

この新機能は、不快または不適切な可能性があるDMリクエストから利用者の皆さまを保護すると同時に、プライバシーも尊重します。メッセージのフィルタリングは、利用者ご自身のデバイスで行われます。そのため、この機能によって弊社のサーバーにメッセージのコンテンツが送り返されることはありません。つまり、この機能を利用しても、問題を報告しない限り、DMリクエストの内容が弊社に共有されることはないのです。

この機能は今後数週間にわたって複数の国でリリースし、その後数か月をかけてさらに多くの国に拡大していく予定です。

望まれない連絡を防ぐ新たな方法

複数のアカウントをブロックする機能のスマートフォンでの使用例

Instagramですでにブロックした相手が新しいアカウントを通じて連絡しようとすることも、今後は困難になります。Instagramで他の利用者をブロックする際、現在のアカウントだけでなく、同じ相手が作成した可能性がある新しいアカウントも、先手を打ってブロックできるようになるためです。今後数週間でこの機能を全世界でご利用いただけるようになります。

これは、望まない相手が繰り返し連絡を取ろうと試みるのを禁じる、嫌がらせに関するポリシーに沿ったものです。Instagramは再犯を許しません。ルール違反でアカウントを停止された人が新たにアカウントを作った場合は、見つけ次第停止します。

不適切なコンテンツ対処の継続的な取り組み

ルールに違反するコメントを事前に検出するためのテクノロジーに加えて、コメント内の不適切なコンテンツを管理できる多くのツールも提供しています。公開アカウントの場合、自分がフォローしているか、自分をフォローしている人にのみコメントを許可するオプションも用意されています。

また、手動で設定するコメントフィルタリストに登録した不適切な言葉については、今後はよくあるスペルミスについても非表示になります。これにより、目にしたくない言葉が、偶然または故意にスペルミスされた場合でも、コメント内に表示されることはなくなります。

弊社ができることは他にも沢山あります。いじめやオンラインでの不正行為との戦いに、今後も継続的に取り組んでいきます。私たちは、専門家、業界団体、青少年の皆さま、クリエイターの皆さま、著名人の方々と協力してInstagramの利用体験に関する理解を深め、ポリシーや製品をどのように進化させればオンラインでの不正行為から利用者の皆さまを守れるかを、これからも探っていきます。

関連記事

Instagramに関する他のお知らせをチェックしよう