欧州のInstagramコミュニティを守るための重要なステップ

November 10, 2020

Instagramは、利用者の皆さまの安全を守るために全力を尽くします。そのために、専門家と協力して、メンタルヘルス、自殺、自傷行為に関する、根深く複雑な問題について理解を深め、危険な状態にある人をサポートするためのより良い方法を探し続けています。私を含めInstagramの全員がこの問題に真剣に向き合っています。この数年、さまざまな取り組みを進めてまいりましたが、このたび、欧州を対象に新たなテクノロジーを導入することとなりました。この取り組みに終わりはなく、常にさらなる措置を模索していく必要があります。


これは、当事者の方にとっては非常に個人的な問題です。また、絶えず変化する複雑な問題でもあります。そのためInstagramでは、コミュニティを適切にサポートできるよう、ポリシーや製品を適宜アップデートしています。弊社が自殺や自傷行為を助長または奨励する行為を認めたことは一度もありません。昨年は、自殺や自傷行為を描写するグラフィックコンテンツをすべて削除するためにポリシーを改定しました。また、イラストやミームなどの画像を使って自殺や自傷行為に関連する情報や方法をフィクションとして描くことを禁止するために、ポリシーの適用範囲を広げました。


しかし、ポリシーと製品だけでは、このような難しい問題に十分に対処することはできません。これに加えて、苦しんでいる人びとに手を差し伸べ、サポートを提供することが重要だと考えています。Instagramでは、自殺や自傷行為に関連するアカウントやハッシュタグを検索した人にサポートを提供するとともに、近隣の支援団体を紹介しています。また、自殺防止に取り組む慈善団体「サマリア人協会」による業界ガイドラインの策定にも協力しました。このガイドラインは、Instagramのようなプラットフォームが有害コンテンツ対策と、サポートを必要とする人への情報提供を両立できるように支援するためのものです。


Instagramでは、テクノロジーを活用して自殺や自傷行為に関する有害コンテンツを積極的に検出し、削除しています。自殺や自傷行為を扱っている可能性がある投稿が検出されると、人間による審査にかけられ、適切に対処されます。コンテンツの削除や、投稿者を近隣の支援団体につなげるといった対応のほか、深刻で急を要する場合には緊急通報サービスに連絡します。今年の4月から6月の間に弊社が対応した自殺や自傷行為に関するコンテンツのうち、利用者から報告を受ける前に弊社独自のテクノロジーで検出したものは90%以上にのぼります。この数値をできる限り伸ばして100%に近づけることが弊社の目標です。


これまで欧州連合(EU)においては、このテクノロジーを自殺や自傷行為に関するコンテンツの検出に利用してこなかったため、このようなコンテンツを積極的に検出してサポートを届けることは困難でした。本日より、EUにおいてもこのテクノロジーの一部をFacebookとInstagramの両方で導入いたします。今後は、自殺や自傷行為に関する弊社のルールに違反するおそれのある投稿を検出し、発見タブなどの場所から自動的に削除することで表示される機会を減らすことが可能になります。また、ある投稿が弊社のルールに違反している可能性が非常に高いとテクノロジーが判断した場合には、自動的に削除できます。


これはEUの利用者を守るための重要なステップですが、さらに対策を強化したいと考えています。次のステップでは、テクノロジーの活用をさらに広げ、ルールに違反するコンテンツを検出して表示される機会を減らすだけでなく、人間による審査にかけて支援を受けられるようにします。これは世界の他の地域ではすでに行われていますが、EUではまだ導入されていないため、有害コンテンツの削除や、支援が必要な人を近隣の支援団体や緊急通報サービスとつなげることが難しくなっています。現在、プライバシー保護に配慮しながらEUにこのテクノロジーを導入する最適な方法について、規制当局や政府と話し合いを進めています。適切なバランスを見極め、取り組みを強化していきたいと考えています。この問題は重要なので、強化の手を緩めることはできません。


タイムライン: 自傷行為や自殺に関するコンテンツに対してInstagramが実施してきた対策

  • 2016年12月: 自傷行為に関する投稿の匿名報告機能をリリース。助けを求めている人を支援団体とつなげる取り組みを開始。
  • 2017年3月: Facebook Liveに自殺防止ツールを統合。友達や家族がリアルタイムで簡単に報告したり本人に連絡をとったりできるようにしました。
  • 2017年11月: 米国以外の地域(欧州を除く)を対象に、Facebook Liveを含む弊社プラットフォーム上で自殺をほのめかしている人を特定するテクノロジーを導入。できるだけ早く報告に優先順位を付け、助けを必要としている人に手を差し伸べ、緊急通報サービスに連絡するためにAIの利用を開始しました。
  • 2018年9月: Instagramを利用する青少年の保護者のためのガイドを作成
  • 2019年2月: 複雑化する自殺と自傷行為の問題について話し合い、弊社のアプローチについて定期的に意見を聞くために、安全と自殺防止に関する世界中の専門家との定期的な会合を開始。
  • 2019年2月: すでに提出して承認されたコンテンツを含め、自殺や自傷行為に関するグラフィックコンテンツをすべて禁止するようにポリシーの適用範囲を拡大。さらに、このようなコンテンツを検索で見つけにくくし、関連するハッシュタグをブロックし、提出されたすべてのコンテンツの配慮レベルについてスクリーニングを実施しています。また、このような投稿を行ったり検索したりしている人びとに資料を提供しています。
  • 2019年10月: ミームやイラストを含め自傷行為や自殺をフィクションとして描くコンテンツや、自傷行為や自殺の方法や道具を扱ったコンテンツを禁止するために、ポリシーの適用範囲を拡大
  • 2020年9月: サマリア人協会による、自傷行為や自殺に関するオンラインコンテンツの安全な管理方法に関する新たなガイドラインづくりに協力
  • 2020年10月: 自殺や自傷行為に関連するキーワードを利用者が検索した場合に、検索結果の上部に表示されるメッセージを追加。このメッセージでは、サポートを提供するとともに、近隣の支援団体を案内しています。
  • 2020年11月: 自殺や自傷行為に関する有害コンテンツを積極的に検出し、表示頻度を減らすテクノロジーをEUでも導入。

実績


Instagramのコミュニティには、有害なコンテンツに関する弊社のポリシーと対策の実施状況について弊社に説明を求める権利があります。そのため弊社では、定期的にコミュニティ規定の施行レポートを公開し、弊社が対処した全世界の違反コンテンツの件数と、その中で報告を受ける前に自主的に検出できたものの割合についてデータを共有しています。以下のタイムラインは、Instagramで自傷行為や自殺に関するコンテンツに講じた措置をまとめたものです。

関連記事

Instagramに関する他のお知らせをチェックしよう