Notre engagement à lutter contre le harcèlement en ligne

Notre mission est de vous mettre en relation avec les personnes et les choses que vous aimez, ce qui est possible uniquement si les internautes se sentent à l’aise pour s’exprimer sur Instagram. Nous savons que le harcèlement est un problème auquel de nombreuses personnes sont confrontées, en particulier les jeunes. Nous nous sommes engagé·es à être en tête de la lutte contre le harcèlement en ligne, et nous repensons l’ensemble de l’expérience d’Instagram pour répondre à cet engagement.

Nous pouvons faire plus pour empêcher le harcèlement sur Instagram, et nous pouvons faire plus pour permettre aux victimes de harcèlement de se défendre. Aujourd’hui, nous annonçons une nouvelle fonctionnalité dans ces deux domaines. Ces outils s’appuient sur une compréhension approfondie de la manière dont les personnes s’intimident et de la manière dont elles réagissent à l’intimidation sur Instagram. Il ne s’agit là que de deux étapes sur un chemin plus long.

Encourager les interactions positives

Le harcèlement en ligne est un problème complexe. Depuis des années, nous utilisons l’intelligence artificielle pour détecter le harcèlement et d’autres types de contenus nuisibles dans les commentaires, ainsi que dans les photos et vidéos. La croissance de notre communauté s’accompagne d’un investissement technologique. Ce point est particulièrement important pour les ados, car elles et ils sont moins susceptibles de signaler les cas de harcèlement en ligne, même si ce sont elles et eux qui en subissent les plus les conséquences.

Ces derniers jours, nous avons commencé à déployer une nouvelle fonctionnalité optimisée par l’IA qui avertit les internautes lorsque leur commentaire peut être considéré comme offensant avant sa publication. Cette fonctionnalité permet aux personnes concernées de réfléchir et d’annuler leur commentaire. Elle empêche aussi la ou le destinataire de recevoir la notification du commentaire nuisible. Les premiers tests de cette fonctionnalité ont montré qu’elle encourageait certaines personnes à annuler leur commentaire et à partager quelque chose de moins blessant après réflexion.

Protéger votre compte des interactions indésirables avec Restreindre

Il est important d’identifier et d’empêcher le harcèlement sur Instagram, mais nous devons également permettre à notre communauté de s’opposer à ce type de comportement. Des jeunes de notre communauté nous ont dit qu’elles et ils hésitaient à bloquer, à arrêter de suivre ou à signaler la personne qui les harcèle parce que cela pouvait aggraver la situation, en particulier s’ils et elles interagissaient avec elle ou lui dans la vie réelle. De plus, certaines de ces actions font qu’il est difficile pour l’individu concerné de conserver une trace du comportement de la personne qui la ou le harcèle.

Nous voulions créer une fonctionnalité qui permet aux internautes de contrôler leur expérience sur Instagram, sans avertir la personne qui pourrait les cibler. Bientôt, nous commencerons à tester une nouvelle façon de protéger votre compte contre les interactions indésirables, appelée Restreindre. Lorsque vous restreindrez une personne, ses commentaires sur vos publications ne seront visibles que par celle-ci. Vous pouvez choisir d’afficher les commentaires d’une personne dont vous avez restreint les commentaires en les approuvant. Ces personnes ne verront pas lorsque vous êtes en ligne sur Instagram ou lorsque vous avez lu leurs messages directs.

Il est de notre responsabilité de créer un environnement sûr sur Instagram. Il s’agit d’une priorité importante pour nous depuis un certain temps, et nous continuons à investir pour mieux comprendre et résoudre ce problème. Je suis impatient de partager d’autres mises à jour très prochainement.

Adam Mosseri, directeur d’Instagram