いじめ行為を防ぐための新機能を導入

By  

Adam Mosseri

2018年10月9日

Instagramでは、いじめ行為を認めません。いじめなどの行為をInstagram上で目にしたら、誰でも報告でき、ガイドラインに違反するコンテンツは削除の対象になります。しかし、ネットいじめは複雑です。Instagram上のいじめ行為を防ぎ、思いやりの気持ちを広めるためには、やらなければいけないことが多くあると認識しています。そこで本日は、いじめ行為を防ぐための最新のツールを発表します。1つは、いじめ行為にあたる写真を特定し報告する新機能、もう1つは、ストーリーズで思いやりを広げることができるカメラエフェクトです。Instagramの新たな責任者として、このプラットフォームを誰もが思いやりを感じ、安心できる場とすべく、責任を持って取り組んでまいります。

いじめ行為にあたる写真を検出

Instagram上の投稿の大半はポジティブな内容で、見た人を喜ばせるものであるものの、残念ながら時には嫌がらせやいじめを目的に写真がシェアされることもあります。そこでInstagramでは、いじめと思われる写真やキャプションを先回りして検出し、コミュニティオペレーションチームの審査にかけられる機械学習を活用しています。

この変更により、はるかに多くのいじめを特定し、削除することが可能になります。いじめを受けたり目撃したりしても報告しない利用者が多くいる中で、これは非常に大きな前進です。また、コミュニティの特に若い層(ティーン)ではネットいじめを受ける割合がほかの層よりも高くなっているので、そうした利用者を守るためにも役に立ちます。この新しい技術は、すでに導入が開始されており、今後数週間かけて順次導入が進む予定です。

いじめコメントをライブ動画でも非表示に

Instagramは数か月前に、いじめコメントを先回りして検出して非表示にするフィルターを導入しました。フィード、発見タブ、プロフィールのコメントを対象としていたこの機能を、ライブにも適用します。これは、利用者の皆さまがこれからもライブを通じて、楽しく安心して友達や気になる人と本物のつながりを築けるようにするためです。この機能はすでに全世界のライブ動画で利用できるようになっています。

「思いやり」カメラエフェクト

いじめを防ぐことも重要ですが、Instagramで思いやりの心を称え、広める取り組みも強化しなければなりません。Instagramは、New York Timesベストセラー入りを果たした10代の作家であり、ダンサー、俳優として活躍しているMaddie Zieglerとともに、ポジティブな心を広める「思いやり」カメラエフェクトをリリースします。Maddieは、自身がネットいじめを受け始めて以来、ネットいじめを非難する声を上げ続けており、Instagramを使ってポジティブな心を広めている大勢の利用者の1人です。

このカメラエフェクトは、Maddieをフォローすることで自動的に入手できます。使うときは、スワイプでカメラを開き、下部の顔アイコンをタップしてこの新しいカメラエフェクトを選びます。セルフィーモードのときは、画面がハートで埋め尽くされ、支えたい友達をタグ付けするよう促すメッセージが表示されます。ストーリーズでメンションした友達にはお知らせが届き、その人がまたストーリーズでシェアしたり、カメラエフェクトを使ったりすることで、思いやりの輪が広がるしくみです。背面カメラに切り替えると、さまざまな言語の「思いやり」を意味する単語がオーバーレイで表示されます。Maddieをフォローしていない場合でも、エフェクトが使われている投稿で「試そう」をタップすればカメラにエフェクトが追加されます。Instagramのカメラエフェクトについて、詳しくはこちらをご覧ください。

米国の全国いじめ防止月間をはじめ、来たる英国のいじめ防止週間や世界中でのいじめ防止の取り組みに敬意を表するとともに、こうしたいじめ防止の新機能を発表できることを嬉しく思います。本日発表したアップデートについて、詳しくはabout.instagram.com/communityとInstagramヘルプセンターをご覧ください。新たに公開した保護者向けリソースは、about.instagram.com/community/parentsでご覧いただけます。

今後もInstagramは、コミュニティの皆さまに安心して利用いただけるプラットフォームであり続けるために、さまざまなツールの導入や機能の改善を行っていきます。

— Instagram責任者、Adam Mosseri(@Mosseri)