性的脅迫や性的画像の悪用から利用者を守る新ツール

主なポイント:

• Instagramは、性的脅迫や性的画像の悪用からティーンを守る新機能と、詐欺や犯罪が疑われる人がティーンを見つけてやり取りすることを難しくする新機能をテストしています。
• また、性的脅迫詐欺の可能性に気づきやすくする機能、報告を促す機能、不快に感じたときに何でも拒否できるようにする機能も新たにテスト中です。
• Metaは、インターネット全体で性的脅迫という犯罪行為を阻止できるよう、Lanternを通じて、性的脅迫アカウントについて他のテクノロジー企業に共有するシグナルを増やしていく試みを開始しました。

金銭を要求する性的脅迫は恐ろしい犯罪です。Instagramでは、詐欺師がオンラインで被害者を見つけてゆする手口を把握し、性的脅迫を効果的に防ぐ方法を開発できるよう、こうした犯罪の対処に精通する専門家らと長年にわたって緊密に連携しています。

本日は、性的脅迫に対するInstagramの最新の取り組みについて、概要をお伝えします。Instagramでは、例えば、性的脅迫など性的画像を悪用する行為から利用者を守り、詐欺師がMetaのアプリだけでなく広くインターネットにおいても被害者になりうる人を見つけにくくする新しいツールをテストしています。また、若者が性的脅迫詐欺を認識し、自らの身を守れるようにするための新しい対策もテスト中です。

これらのアップデートは、望まない接触や有害な可能性のある接触から若者を守るための長年の取り組みをさらに発展させるものです。Instagramでは、まだつながっていない人からのメッセージが届かないようにティーンのデフォルトのメッセージ設定を厳しくしており、詐欺が疑われるアカウントとすでに接触しているティーンには「安全のためのお知らせ」を表示しているほか、プライベートな画像をばらまくと脅された場合にそのDMを報告する専用のオプションも用意しています。また、Take It Downの開発にあたってNational Center for Missing & Exploited Children (NCMEC)を支援しました。これは、若者が性的画像のコントロールを取り戻してオンラインでのシェアを防ぐことで、詐欺師を無力化することができるプラットフォームです。

DMにヌード保護を導入

友達や家族、お気に入りのクリエイターに自分の好きなものをシェアするときにはDMを使うことが圧倒的に多いと思いますが、性的脅迫の詐欺師も非公開のメッセージを使って性的な画像を送りつけたり、要求したりすることがあります。これに対処するため、Instagram DMでまもなく新しいヌード保護のテストを開始します。これは、ヌードが含まれると検知された画像をぼかすとともに、ヌード画像を送ろうとしている人に再考を促す機能です。この機能は、利用者が見たくもないヌードをDMで見ずに済むようにするだけでなく、送りつけたヌード画像の返礼として言葉巧みにヌード画像を要求する詐欺の被害を防ぐことを目的としています。

ヌード保護は全世界の18歳未満のアカウントでデフォルトでオンになり、成人の利用者に対してはこの機能をオンにするよう促すお知らせを表示します。

ヌード保護がオンになっているときにヌードを含む画像を送ろうとすると、デリケートな写真の送信には注意することと、気が変わった場合には写真の送信を取り消せることを伝えるメッセージが表示されるようになります。

受け取ったヌード画像を転送しようとしている人には、考え直すよう促すメッセージが表示されるようになります。

ヌードを含む画像が届くと、画像に自動的にぼかしがかかり、その上に警告画面が重ねて表示されます。これにより、ヌード画像を目にせずにそれを表示するかどうかを選択できます。無理に返信する必要はないことを伝えるメッセージと、送信者をブロックしてチャットを報告するオプションも併せて表示されます。

ヌード画像を送ろうとしたり受け取ったりしたときには、それに伴うリスクを助言する専門家監修の「安全に利用するためのアドバイス」が表示されるようになります。例えば、知らないうちに画像がスクリーンショットに撮られたり転送されたりするおそれがあること、相手との関係が今後変わってしまうおそれがあること、相手がなりすましかもしれないのでプロフィールを注意深く確認することなどです。そのほか、Metaのセーフティセンター、支援のヘルプライン、StopNCII.org (18歳以上向け)、Take It Down (18歳未満向け)など、さまざまなリソースへのリンクも示されます。

ヌード保護は、InstagramのDMに届いた画像にヌードが含まれているかどうかをデバイス上の機械学習を使用して分析します。画像の分析はデバイス上で行われるため、エンドツーエンド暗号化チャットでも機能します。したがって、画像をMetaに報告することを選択しない限り、Metaがその画像にアクセスすることはありません。

詐欺が疑われる人がティーンとつながれないようにする

Instagramは、性的脅迫の行為を検知した場合に厳しい措置を講じています。行為者のアカウントを削除するとともに新しいアカウントを作成できないようにし、適宜、NCMECや法執行機関に行為者を報告しています。Instagramのエキスパートチームは、そうした犯罪者のネットワークの調査と妨害、犯罪者のアカウントの無効化、NCMECや法執行機関への犯罪者の報告にも取り組んでおり、昨年だけでも複数のネットワークに対してこの措置を実施しました。

現在は、性的脅迫行為を示している可能性のあるさまざまなシグナルに基づいて性的脅迫詐欺が疑われるケースを特定するテクノロジーも開発中です。このシグナルは必ずしも規約違反の証拠にはなりませんが、予防的措置としてそうしたアカウントがティーンのアカウントを見つけてやり取りすることができにくくなるようにしています。他の疑わしいアカウントについては、すでにティーンを見つけてやり取りすることができないようになっています。

1つの対策として、性的脅迫が疑われるアカウントがメッセージ送信ややり取りをすることをよりいっそう難しくします。今後は、性的脅迫が疑われるアカウントが送ったメッセージリクエストはそのまま受信者の「非表示のリクエスト」フォルダーに入ります。これにより、そうしたメッセージが通知されることがなくなり、一切目にせずに済むようになります。詐欺や性的脅迫が疑われるアカウントとすでにチャットをしている利用者には「安全のためのお知らせ」を表示して、プライベートな画像をばらまくという脅迫を報告するよう促すとともに、いかなる不快な要求も拒否できることを知らせます。

ティーンの場合は、さらに踏み込んだ対策を講じます。現時点でもすでに、成人がまだつながっていないティーンとDMチャットを開始することを難しくしているほか、1月に発表したとおり、16歳未満(一部地域では18歳未満)のデフォルトのメッセージ設定を厳しくしたことで、ティーンには送信者が何歳であろうとまだつながっていない人からのメッセージが届かなくなりました。今後は、性的脅迫が疑われるアカウントからティーンのプロフィールを見た場合、そのティーンとすでにつながっていたとしても、「メッセージ」ボタンは表示されなくなります。また、そうしたアカウントが誰かのフォロワーリスト、フォロー中リスト、「いいね！」リストを見てもそこにティーンが表示されないようにしたり、検索結果でティーンのアカウントを見つけにくくしたりするテストも行っています。

詐欺師と接触した可能性のある利用者向けの新しいリソース

現在、性的脅迫行為を理由に削除されたアカウントとやり取りをした可能性のある利用者向けに、新しいポップアップメッセージをテストしています。このメッセージでは、Metaの性的脅迫への対策ハブなどの専門家監修のリソースや、支援のヘルプライン、友達に連絡するオプション、StopNCII.org (18歳以上向け)、Take It Down (18歳未満向け)に誘導しています。

子どもの安全に関する世界各地の新しいヘルプラインをアプリ内の報告フローに組み込むことも行っています。該当する問題(ヌード、プライベートな画像をばらまくという脅迫、性的搾取、性的行為の勧誘など)をティーンが報告すると、子どもの安全に関する地域のヘルプラインに誘導されるようになります(ヘルプラインがある場合)。

インターネット全体で性的脅迫詐欺を防ぐために

MetaはLanternの創設メンバーであることを11月に発表しました。これは、各社の子どもの安全ポリシーに違反したアカウントおよび行為に関するシグナルをテクノロジー企業が共有できるようにするための、Tech Coalitionが運営するプログラムです。

こうした業界的な協力体制が不可欠な理由は、犯罪者が行動範囲を1つのプラットフォームにしぼることがないためです。それは性的脅迫の詐欺師も同様です。犯罪者は被害者が使用しているさまざまなアプリでアプローチし、1つのアプリから別のアプリへと会話の場を移すことも少なくありません。こうした理由から、Metaは、この重要な協力体制を発展させ、個々のプラットフォームだけでなくインターネット全体で性的脅迫詐欺を阻止するため、性的脅迫に特有のシグナルをLanternに共有することを開始しています。