Des nouvelles de nos efforts pour lutter contre les abus sur Instagram

10 février 2021

Nous souhaitons qu’Instagram soit un espace où les utilisateurs peuvent interagir avec les personnes et les choses qu’ils aiment. Mais nous savons bien qu’il y aura toujours des personnes avec des comportements abusifs, tout comme dans le monde réel. Nous avons pu le constater encore récemment lorsque des footballeurs ont subi des agressions racistes au Royaume-Uni. Nous ne cautionnons pas ce type de comportement sur Instagram.

Dans un grand nombre de cas, ces agressions se déroulent dans la messagerie via les messages Direct (DM), et il est plus difficile de réagir que lorsqu’elles ont lieu dans les commentaires. Étant donné que les messages Direct relèvent de conversations privées, nous n’utilisons aucune technologie pour détecter de manière proactive les contenus abusifs, comme les discours haineux ou à caractère intimidant, comme nous le faisons sur d’autres supports. Cela dit, il est possible de mettre d’autres mesures en place pour prévenir ce type de comportement. Aujourd’hui, nous vous présentons de nouvelles mesures à cet effet, par exemple la suppression des comptes des utilisateurs qui envoient des messages insultants et le développement de nouvelles commandes pour lutter contre les abus dans les messages Direct.


Notre position face aux discours haineux

Nos règles contre les discours haineux ne tolèrent pas les agressions basées sur les caractéristiques protégées d’une personne, comme son origine ethnique ou sa religion. Nous avons renforcé ces règles l’année dernière, en interdisant des formes de discours haineux plus implicites, comme le contenu décrivant des personnes déguisées ou maquillées en noir (blackface) ou les stéréotypes courants concernant les juifs. Nous réagissons dès que nous repérons des discours à caractère haineux et nous améliorons constamment nos outils de détection afin d’être plus rapides. Entre juillet et septembre de l’année dernière, nous avons pris des mesures pour plus de 6,5 millions de contenus relevant du discours haineux sur Instagram, y compris dans les DM, et dans 95 % des cas, nous avons repéré ces contenus avant qu’ils ne soient signalés par des utilisateurs.


Des sanctions plus sévères pour les personnes qui envoient des messages insultants

Aujourd’hui, nous annonçons que nous allons mettre en place des mesures plus sévères face aux utilisateurs qui ne respectent pas les règles d’Instagram dans les DM. Actuellement, lorsqu’un utilisateur envoie des DM qui enfreignent nos règles, nous bloquons l’envoi de messages par cette personne pendant une période de temps définie. À partir d’aujourd’hui, si cet utilisateur continue d’envoyer des messages allant à l’encontre de nos règles, son compte sera désactivé. Nous désactiverons également tous les nouveaux comptes créés dans le but de contourner nos restrictions relatives à l’envoi de messages et continuerons de désactiver ceux créés exclusivement afin d’envoyer des messages insultants.


Collaboration avec les autorités

Nous nous attachons également à coopérer avec les autorités britanniques pour lutter contre le discours haineux et répondrons favorablement à toute demande d’informations recevable dans ce cadre. Comme pour toutes les demandes émanant des autorités, nous ne transmettrons aucune information si la demande n’est pas assez précise, si elle enfreint les droits humains ou si elle n’est pas recevable.


Des outils pour garder le contrôle

Au niveau des commentaires Instagram, nous disposons également d’un certain nombre d’outils pour aider les utilisateurs à se protéger. Les utilisateurs peuvent utiliser des filtres de commentaire pour empêcher les autres de publier des commentaires insultants contenant des mots, des expressions ou des emojis indésirables. L’année dernière, nous avons annoncé une nouvelle fonctionnalité pour gérer plusieurs commentaires indésirables en une seule fois, que ce soit en les supprimant de manière groupée, ou en bloquant simultanément les comptes qui les ont publiés. Nous avons également constaté une baisse significative des commentaires insultants lorsque nous avons commencé à utiliser l’IA pour avertir les utilisateurs lorsqu’ils sont sur le point de publier du contenu qui pourrait être blessant.

Concernant les messages Direct, il est plus difficile de s’assurer qu’ils ne contiennent pas de contenu haineux ou relevant de faits de harcèlement car il s’agit de conversations privées. Les comptes professionnels ou créateurs, qui ont généralement beaucoup d’abonnés et qui reçoivent la majorité des messages insultants envoyés par des inconnus, ont la possibilité de désactiver les DM envoyés par des comptes auxquels ils ne sont pas abonnés. Nous avons également lancé le déploiement de ces commandes pour les comptes personnels dans de nombreux pays et nous espérons être en mesure de les proposer à tous les utilisateurs prochainement. Il est également possible de désactiver les tags et les mentions publiés par des utilisateurs inconnus ou de bloquer toute personne envoyant des messages indésirables.

Nos conversations récentes avec notre communauté ont clairement montré que la réception de messages Direct à caractère insultant a des conséquences néfastes, et nous en sommes bien conscients. Nous travaillons actuellement à l’élaboration d’une nouvelle fonctionnalité pour lutter contre ce problème, et celle-ci s’appuiera sur les retours effectués par la communauté. Nous espérons pouvoir la lancer dans les mois à venir.

Nous nous attachons à faire tout notre possible pour lutter contre la haine et le racisme sur notre plate-forme, mais nous savons également que ces problèmes s’inscrivent plus largement dans la société. Nous avons hâte de continuer à collaborer avec d’autres entreprises, avec les fédérations de football, les ONG, les autorités locales, et les parents et éducateurs, à la fois en ligne et hors ligne.

ARTICLES CONNEXES

Consulter d’autres annonces sur Instagram