Instagram利用者の安全を守る取り組みの強化について

2021年9月30日更新: この記事の情報は最新でない可能性があります。自殺と自傷行為に関するコンテンツを検出するテクノロジーの最新情報については、セーフティセンターをご覧ください。セーフティセンターに記載されているとおり、弊社のアルゴリズムは自殺と自傷行為に関連する可能性があるコンテンツを特定することを目的としており、メンタルヘルスなどの症状を診断または治療することは目的としていません。

私にとってInstagram利用者の安全ほど重要なことはありません。これが特に当てはまるのは、最も傷つきやすい状況にある人びとです。自殺や自傷行為は難しい込み入ったテーマであり、深く懸念されるのも当然です。これは複雑な問題で、どのようなアプローチが最適かについてはさまざまな意見がありますが、非常に重要なテーマであり、子を持つ親である自分にとって深く考えさせられます。

私がまず思いを寄せるのは、こうした難しい問題に直面している本人、そしてその家族や友達です。彼らがどのような苦しみを抱えているのか、想像すらできません。思いを寄せるだけでは十分ではないことも理解しています。Instagramは、弊社のプラットフォームを利用するすべての人びと、特に自殺や自傷行為に及ぶ危険がある人びとの安全を守るために最善を尽くす義務があります。

オンラインコミュニティには、2つの相反する事実が存在します。1つは、とても悲しいことですが、オンラインで接した情報に悪影響を受けた結果、自分を傷つけてしまう若者がいることです。これはきわめて危険なことです。

しかし一方で、自分が抱えている困難をサポートしてもらうおうとオンラインにアクセスする若者も大勢います。例えば、傷を癒やすことができた人や摂食障害から回復した人の話をシェアするためにです。多くの場合、このようなオンラインのサポートネットワークが、自分と同じ体験をした他の人を見つけられる唯一の手段となっています。

Instagramでは、英国のSamaritansや米国のNational Suicide Prevention Lineなど、学術団体やメンタルヘルスの団体からの専門的なアドバイスを参考に、人びとが精神的な問題に関する体験を共有できるようにすることと、危険な行動を誘発しかねないコンテンツにさらされないよう保護することという、バランスの難しい問題に取り組んでいます。

ある人にとっては役立つコンテンツも、他の人にとっては有害になる可能性があります。問題を抱えた若者たちとの対話から、ある時には役立った画像が別の日には危険な行為の引き金になりうることを知りました。そのため、Instagramでは、自傷行為や自殺を助長するコンテンツのシェアは許可されていません。実際、弊社がこのような行為を容認したことは、今までに一度もありません。

Instagramは今年初め、自殺や自傷行為に関するコンテンツへのアプローチを強化しました。2月には、自傷行為の生々しい画像の投稿を禁止し、このようなコンテンツを見つけて対処する新しいテクノロジーを開発したほか、こうしたコンテンツやその投稿者のアカウントがおすすめに表示されないようにする取り組みを続けています。

その結果、対応できるコンテンツを以前の2倍に増やすことができました。ポリシー変更後の3か月間で、弊社は83万4,000件以上のコンテンツについて、削除、表示回数の削減、警告画面の追加といった措置を講じました。また、こうしたコンテンツの77%以上は、利用者から報告される前に見つけ出すことができました。進歩はありましたが、この取り組みに終わりはないこともわかっています。

先月はポリシーをさらに強化し、投稿禁止の対象となる自傷行為や自殺に関連するコンテンツの種類を増やしました。今後は、イラストやミーム、生々しい表現がある映画や漫画のコンテンツなど、自傷行為や自殺を描いたフィクションについても、Instagramへの投稿が禁じられます。また、自傷行為や自殺を直接描いていなくても、そのための道具や手法に関連している画像は削除されます。

このようなコンテンツをシェアしているアカウントは、検索画面にも[発見]タブのような画面にも、おすすめとして表示されなくなります。また、英国のSamaritansやPAPYRUS、米国のNational Suicide Prevention LifelineやThe Trevor Projectといった地域の支援団体と提携して、より多くのリソースを利用者に提供します。

こうした複雑な問題は、1つの企業だけの取り組みや、ポリシーや施策の設定だけで解決できるものではありません。Instagramはなぜ自殺や自傷行為に関するコンテンツを許可しているのかと、よくご質問をいただきます。専門家によると、きわめて困難な時期やそこからの復活について伝える機会を人びとに提供することは、重要な支援手段になりうるということです。このようなコンテンツのシェアを禁じれば、メンタルヘルスの問題が悪いことのように扱われてしまう可能性があるばかりか、大切な人が助けを求めている声に気づき、手を差し伸べる機会を妨げかねません。

とはいえ、弊社のアプローチが適切に確実に実施されるためには、1回きりのポリシー変更やテクノロジー更新だけでは不十分です。弊社のこうした取り組みに、終わりはありません。新しいトレンドや行動の変化に合わせて、ポリシーやテクノロジーを進化させる必要があります。

Instagramは、新しいトレンドや文化的な違いを常に把握するため、学者や専門家とともに、自殺や自傷行為に関するミーティングを毎月開催しています。また、スウェーデンのメンタルヘルス機関であるMINDと提携して、テクノロジーやソーシャルメディアが若者の生活に及ぼす影響を分析しています。英国では、Samaritansと提携して、苦しんでいる人びとを支援する新たなガイドラインの策定に業界全体で取り組んでいます。

欧州以外の地域では、支援を必要としている人を積極的に見つけ出す新しいテクノロジーも導入しています。弊社はこのテクノロジーを欧州にも導入したいのですが、EUの法律に関係する重要な検討事項があるため、欧州の規制当局と協議を続けています。

自傷行為に及んだ人や弊社のプラットフォームで目にしたコンテンツに影響を受けたと思われる人の話を聞くたびに、現実の場やオンラインの場で多くの若者が困難に直面していることが思い出されます。弊社は、Instagramであらゆる人の安全を守るための取り組みを続けると同時に、最も支援を必要としている人びとが状況を改善するための支援を得られるように努めてまいります。

Instagram責任者、Adam Mosseri