De nouveaux outils pour aider à se protéger contre la sextorsion et la divulgation d’images intimes

Points à retenir :

• Nous testons de nouvelles fonctionnalités pour protéger les jeunes contre la sextorsion et la divulgation d’images intimes, et pour compliquer la tâche des arnaqueur·ses et des criminel·les potentiels qui cherchent à identifier des ados et à interagir avec eux.
• Nous testons également de nouveaux dispositifs permettant de repérer les arnaques par sextorsion, d’encourager leur signalement et de donner aux utilisateur·ices les moyens de refuser toute activité qui les mettrait mal à l’aise.
• Nous avons commencé à partager davantage de signalements de comptes utilisés pour la sextorsion avec d’autres entreprises de technologie par l’intermédiaire de Lantern, ce qui contribue à entraver cette activité criminelle sur Internet.

La sextorsion financière est un crime terrible. Nous collaborons étroitement depuis des années avec des experts, dont certains spécialisés dans la lutte contre ces crimes, pour comprendre les tactiques utilisées par les arnaqueur·ses pour identifier et tromper des victimes en ligne, afin de mettre au point des moyens efficaces pour les arrêter.

Aujourd’hui, nous vous présentons nos dernières mesures pour lutter contre ces crimes. Nous testons notamment de nouveaux outils pour protéger le public contre la sextorsion et toute autre forme de divulgation d’images intimes et pour empêcher les arnaqueurs d’identifier des cibles potentielles sur les applications de Meta et sur Internet. Nous testons aussi de nouvelles mesures visant à aider les jeunes à identifier les arnaques par sextorsion et à s’en protéger.

Ces mises à jour s’appuient sur nos efforts continus pour protéger les jeunes contre toute forme de communication indésirable ou susceptible de leur nuire. Les paramètres des messages des ados sont plus stricts par défaut afin qu’elles et ils ne puissent pas recevoir de messages de la part de personnes avec qui elles et ils ne sont pas déjà en relation. Desavertissements de sécurité sont envoyés aux ados qui sont déjà en contact avec des comptes potentiellement frauduleux. Enfin, une option spéciale permet de signaler les DM contenant des menaces de partage d’images privées. Nous avons également apporté notre aide au National Center for Missing and Exploited Children (NCMEC) pour la création de Take It Down, une plateforme qui permet aux jeunes de reprendre le contrôle de leurs images intimes et d’éviter qu’elles ne soient partagées en ligne afin de priver les arnaqueurs de leur influence.

Protection contre la nudité dans les DM

Alors que beaucoup utilisent les DM pour partager leurs coups de cœur avec leurs ami·es, leur famille ou leurs Creators préférés, les arnaqueur·ses qui pratiquent la sextorsion peuvent aussi se servir des messages privés pour partager ou demander des images intimes. Pour pallier ce problème, nous commencerons bientôt à tester notre nouvelle fonctionnalité de protection contre la nudité dans les DM Instagram, qui floute les images dont le contenu a été détecté comme contenant de la nudité et encourage chacun·e à bien réfléchir avant d’envoyer des images avec de la nudité. Cette fonctionnalité est conçue non seulement pour protéger les utilisateur·ices contre la nudité indésirable dans leurs DM, mais aussi pour les protéger contre les arnaqueur·ses qui envoient des images de nudité pour les inciter à envoyer leurs propres images en échange.

La protection contre la nudité sera activée par défaut pour les ados de moins de 18 ans dans le monde entier, et les adultes recevront une notification pour les encourager à l’activer.

Lorsque la protection contre la nudité est activée, un message s’affiche pour rappeler aux utilisateur·ices qui envoient des images contenant de la nudité qu’ils et elles doivent être prudent·es avant d’envoyer des photos sensibles et pour leur préciser qu’ils et elles peuvent annuler leur envoi en cas de changement d’avis.

Toute personne qui tente de transférer une image contenant de la nudité qu’elle a reçue recevra un message l’invitant à reconsidérer sa décision.

Lorsque quelqu’un reçoit une image contenant de la nudité, celle-ci sera automatiquement floutée derrière un écran d’avertissement, de sorte que le ou la destinataire n’y sera pas exposé·e et pourra choisir de la visionner ou non. Nous afficherons également un message lui indiquant de ne pas se sentir obligé·e de répondre, avec une option permettant de bloquer l’expéditeur·ice et de signaler la discussion.

Lors de l’envoi ou de la réception de ces images, les utilisateur·ices seront invité·es à consulter des conseils de sécurité rédigés avec l’aide de spécialistes sur les risques encourus. Ces conseils rappellent notamment que toute personne peut prendre des captures d’écran ou transférer des images à votre insu, que votre relation avec cette personne peut être amenée à changer dans le futur et que vous devriez examiner attentivement les profils au cas où une personne ne serait pas celle qu’elle prétend être. Ils renvoient également à une série de ressources, dont le Centre de sécurité de Meta, des lignes d’écoute d’assistance, StopNCII.org pour les personnes âgées de plus de 18 ans et Take It Down pour celles ayant moins de 18 ans.

La fonctionnalité de protection contre la nudité utilise le machine learning sur l’appareil pour analyser si une image envoyée dans un DM sur Instagram contient de la nudité. Les images étant analysées sur l’appareil lui-même, la protection contre la nudité fonctionnera dans les discussions chiffrées de bout en bout. Meta n’aura pas accès à ces images, sauf en cas de signalement.

Empêcher les arnaqueur·ses potentiel·les d’interagir avec les ados

Nous prenons des mesures sévères lorsque nous identifions des individus qui se livrent à la sextorsion : nous supprimons leur compte, nous les empêchons d’en créer d’autres et, le cas échéant, nous les signalons au NCMEC et aux forces de l’ordre. Nos équipes de spécialistes s’emploient également à enquêter sur les réseaux de ces criminels et à les entraver, à désactiver leurs comptes et à les signaler au NCMEC et aux services de police. Ainsi, plusieurs réseaux ont été démantelés au cours de l’année passée.

Aujourd’hui, nous développons également une technologie permettant d’identifier les comptes susceptibles de se livrer à des arnaques par sextorsion, sur la base d’une série de signes susceptibles d’indiquer un comportement de ce type. Bien que ces signes ne constituent pas toujours la preuve qu’un compte a enfreint nos règles, nous prenons des mesures de précaution pour empêcher ces comptes de trouver des comptes d’ados et d’interagir avec eux. Cette technologie s’appuie sur nos initiatives actuelles pour empêcher d’autres comptes potentiellement suspects de trouver des ados et d’interagir avec elles et eux.

Pour y parvenir, nous compliquons encore davantage la tâche des comptes de sextorsion potentiels lorsqu’il s’agit d’envoyer des messages ou d’interagir avec d’autres comptes. Désormais, toutes les invitations par message que les comptes de sextorsion potentiels tentent d’envoyer se retrouveront directement dans le dossier des invitations masquées de la ou du destinataire. Autrement dit, elle ou il ne sera pas averti·e du message et n’aura jamais à le voir. Pour les ados qui échangent déjà avec des comptes potentiellement frauduleux ou de sextorsion, nous affichons des avertissements de sécurité qui les encouragent à signaler toute menace de partage d’images privées et leur rappellent qu’ils peuvent refuser toute activité qui les met mal à l’aise.

Nous allons encore plus loin pour les ados. Nous limitons déjà la possibilité pour les adultes d’entamer des discussions par DM avec des ados avec lesquels elles et ils ne sont pas connecté·es. De plus, en janvier, nous avons annoncé la mise en place de paramètres de messagerie par défaut plus stricts pour les ados de moins de 16 ans (moins de 18 ans dans certains pays), de sorte que seules les personnes avec lesquelles elles et ils sont déjà en contact peuvent leur envoyer des messages, quel que soit l’âge de l’expéditeur·ice. Désormais, le bouton Message sur le profil d’un·e ado n’apparaîtra pas pour les comptes de sextorsion potentiels, même s’ils sont déjà connectés. Nous testons également un système qui permet de masquer les ados dans les listes de followers, de personnes suivi·es et de mention J’aime de ces comptes. Le but est de leur rendre plus difficile l’identification de comptes d’ados dans les résultats de recherche.

Nouvelles ressources pour les personnes susceptibles d’avoir été approchées par des arnaqueur·ses

Nous testons de nouveaux messages pop-up destinés aux utilisateur·ices susceptibles d’avoir interagi avec un compte que nous avons supprimé pour sextorsion. Le message les orientera vers nos ressources s’appuyant sur des spécialistes, dont les lignes d’écoute d’assistance de la plateforme Stop à la sextorsion, la possibilité de contacter un·e ami·e, StopNCII.org pour les personnes âgées de plus de 18 ans et Take It Down pour celles ayant moins de 18 ans.

Nous ajoutons également de nouvelles lignes d’assistance pour la protection de l’enfance du monde entier à nos flux de signalement dans l’application. Ainsi, lorsque des ados signalent des problèmes de ce type, tels que la nudité, les menaces de partage d’images privées, l’exploitation ou la sollicitation sexuelle, nous les orientons vers les lignes d’écoute locales pour la protection de l’enfance, si possible.

Lutter contre les arnaques par sextorsion sur Internet

En novembre, nous avons annoncé que nous étions membres fondateur·ices de Lantern, un programme mené par la Tech Coalition qui permet aux entreprises technologiques de partager des signaux sur les comptes et les comportements qui violent leurs politiques de sécurité concernant les enfants.

Cette coopération au sein du secteur est essentielle, car les prédateur·ices et les arnaqueur·ses qui pratiquent la sextorsion ne se contentent pas d’agir sur une seule plateforme. Ces criminel·les ciblent leurs victimes à travers les différentes applications qu’elles utilisent, en déplaçant souvent leurs conversations d’une application à l’autre. C’est pourquoi nous avons commencé à transmettre à Lantern des signaux plus spécifiques de sextorsion, afin de renforcer cette coopération essentielle et d’essayer de mettre fin aux arnaques par sextorsion non seulement sur des plateformes en particulier, mais aussi sur tout le réseau Internet.