Présentation de nouveaux outils pour protéger notre communauté des comportements abusifs

21 avril 2021

Nous avons récemment communiqué les mesures que nous prenons pour lutter contre les comportements abusifs et les discours haineux sur Instagram, notamment des sanctions plus strictes contre les comptes qui envoient des messages directs (DM) abusifs. Aujourd’hui, nous annonçons deux nouveautés : une fonctionnalité pour protéger les utilisateur·ices des messages directs abusifs et empêcher une personne que vous avez bloquée de vous contacter depuis un nouveau compte.

Une nouvelle fonctionnalité pour filtrer les messages abusifs

Exemple de mots masqués sur un téléphone.

Nous comprenons les répercussions que peut avoir un contenu abusif (racisme, sexisme, homophobie ou tout autre type de discours offensant) sur les utilisateur·ices qui en sont victimes. Personne ne devrait y être confronté sur Instagram. Les comportements abusifs posent un défi complexe. C’est pourquoi nous ne pouvons lutter contre ces comportements d’une seule et unique façon. Nous savons par exemple que de nombreux membres de notre communauté, notamment des comptes suivis par un grand nombre de followers, ont été confrontés à des contenus abusifs envoyés dans des demandes de messages directs par des utilisateur·ices qu’ils ne suivent pas.

Dans la mesure où les messages directs sont des conversations privées, nous n’y recherchons pas de manière proactive des signes de discours haineux ou de harcèlement comme nous le faisons ailleurs sur Instagram. Nous avons donc décidé de lancer un nouvel outil qui, une fois activé, filtrera automatiquement les demandes de messages directs contenant des mots, des expressions et des emojis offensants afin que vous n’ayez jamais à les voir. Cet outil vise les demandes de messages directs, car c’est là que se concentrent les contenus abusifs, contrairement à votre messagerie directe dans laquelle vous recevez des messages de vos amis. Son fonctionnement est identique à celui des filtres des commentaires mis à votre disposition pour masquer les propos offensants et choisir les termes dont vous n’autorisez pas l’utilisation dans les commentaires sous vos publications. Vous pouvez activer ou désactiver simultanément les filtres des commentaires et des demandes de messages directs dans la nouvelle section Mots masqués située dans vos paramètres de confidentialité.

Nous avons travaillé en étroite collaboration avec des organisations de premier plan dans la lutte contre la discrimination et le harcèlement pour dresser une liste prédéfinie de termes offensants qui seront filtrés dans les demandes de messages directs lorsque la fonctionnalité sera activée. Nous savons que la sensibilité au contenu varie d’une personne à une autre, c’est pourquoi vous aurez également la possibilité de créer votre propre liste personnalisée de mots, d’expressions et d’emojis à masquer dans vos demandes de messages directs. Toutes les demandes de messages directs contenant ces mots, expressions et emojis offensants, qu’ils proviennent de votre liste personnalisée ou de la liste prédéfinie, seront automatiquement filtrées et placées à part dans un dossier masqué. Si vous décidez d’ouvrir ce dossier, le contenu des messages sera masqué pour vous éviter d’avoir à subir un langage offensant, sauf si vous choisissez d’appuyer dessus pour le voir.

Vous aurez ensuite la possibilité d’accepter la demande de message, de le supprimer ou de le signaler.

Cette nouvelle fonctionnalité a pour but de vous protéger contre des messages potentiellement offensants ou abusifs, tout en respectant la confidentialité de vos données. Le filtrage des messages s’effectue sur votre appareil, ce qui signifie que la fonctionnalité ne renvoie aucun contenu vers nos serveurs. Lorsque vous utilisez cette fonctionnalité, aucun contenu de vos messages directs ne nous est transmis, sauf si vous le signalez.

Au cours des semaines à venir, nous lancerons le déploiement de cette fonctionnalité dans sept pays, avant de l’étendre à un plus grand nombre de pays dans les mois qui suivront.

Une nouvelle solution pour vous protéger des contacts indésirables

Exemple de blocage de plusieurs comptes sur un téléphone.

Nous empêchons également les personnes que vous avez déjà bloquées de vous recontacter à partir d’un nouveau compte. Grâce à cette fonctionnalité, chaque fois que vous bloquez un compte sur Instagram, vous avez la possibilité de bloquer également les autres comptes que cette personne pourrait créer. Elle sera disponible à l’échelle mondiale dans les semaines à venir.

Cette fonctionnalité s’ajoute à nos politiques relatives au harcèlement qui interdisent à une personne de contacter plusieurs fois un compte qui ne souhaite pas entrer en contact avec elle. Par ailleurs, nous n’avons aucune tolérance pour la récidive : si le compte d’une personne est suspendu pour avoir enfreint nos règles, tous les nouveaux comptes créés par cette dernière seront supprimés sitôt que nous en aurons connaissance.

Poursuivre notre engagement dans la lutte contre les commentaires offensants

En plus d’utiliser notre technologie de détection proactive pour repérer les commentaires en infraction, nous proposons plusieurs outils pour vous aider à contrôler les contenus abusifs dans vos commentaires. Si vous disposez d’un compte public, vous pouvez autoriser uniquement les personnes que vous suivez ou qui vous suivent à laisser des commentaires sous vos publications.

Nous commençons également à masquer les mots offensants mal orthographiés issus de votre liste manuelle de filtrage des commentaires. Ainsi, si l’un des mots que vous ne souhaitez pas voir est mal orthographié, par erreur ou délibérément, il n’apparaîtra toujours pas dans vos commentaires.

Nous savons qu’il nous reste beaucoup à faire, et nous nous efforçons de continuer à lutter contre le harcèlement et les comportements abusifs en ligne. Nous continuerons à collaborer avec des spécialistes, des organisations du secteur, des ados, des Creators et des personnalités publiques pour comprendre leur expérience sur Instagram et identifier les moyens de faire évoluer nos politiques et nos produits afin de les protéger des comportements abusifs en ligne.