いじめ行為を防ぐための新機能を導入

By アダム・モッセーリ

October 09, 2018

Instagramでは、いじめ行為を認めません。いじめや嫌がらせ行為をInstagram上で目にしたら、誰でもアプリ内から報告でき、ガイドラインに違反する場合は削除の対象になります。しかし、オンライン上のいじめは複雑です。Instagram上のいじめ行為を防ぎ、思いやりの気持ちを広めるためには、やらなければいけないことが多くあると認識しています。新たな責任者として、Instagramを利用者の皆様にとって親切で安全なコミュニティにするための取り組みを続けられることを誇りに思っています。

いじめ行為にあたる写真を検出

Instagram上の投稿の大半はポジティブな内容であるものの、残念ながら時には嫌がらせやいじめを目的に写真がシェアされることもあります。また、いじめ行為にあたる投稿を目にしたり、嫌がらせにあったりしても、自分から報告しない利用者も多くいます。そこでInstagramでは機械学習(マシンラーニング)を活用し、いじめと思われる写真やキャプションを検出する技術を導入しました。検出された投稿はコミュニティオペレーションチームが内容を確認し、コミュニティガイドラインに違反するものは削除の対象になります。この機能は、今後数週間かけて導入される予定です。

いじめコメントをライブ動画でも非表示に

今年5月にInstagramは、いじめコメントを自動的にブロックし、非表示にするフィルターを導入したことを発表しました。この機能はフィード投稿、エクスプローラ(Explore)ページ、プロフィールに適用されていましたが、今後はライブ動画上のいじめコメントもフィルタリングします。この機能はすでに導入済みで、日本語にも対応しています。

Instagramを安全に利用するためのヒントや機能については、保護者のためのInstagramガイド(日本語版)もあわせてご覧ください。

今後もInstagramでは、コミュニティの皆様に安心して利用いただけるプラットフォームであり続けるため、様々なツールの導入や機能の改善を行っていきます。

アダム・モッセーリ
Instagram 責任者
@mosseri

関連記事

製品に関する他のお知らせをチェックしよう