Des nouvelles de notre travail sur l’équité

Entre la pandémie, les élections à venir et les tensions ethniques croissantes aux États-Unis, nous assistons à un changement dans la façon dont les internautes utilisent Instagram. Plus que jamais, le public se tourne vers la plateforme pour sensibiliser à des causes civiques et sociales qui lui tiennent à cœur. C’est en grande partie la raison pour laquelle en juin, nous nous sommes engagé·es à examiner les façons dont Instagram pourrait défavoriser certains groupes de personnes. Nous nous devons d’être attentif·ves à ce que nous développons et à la façon dont nous le faisons afin que l’expérience du public sur Instagram reflète mieux les actions et les aspirations de notre communauté.

Vous trouverez ci-dessous une liste des domaines dans lesquels nous avons progressé cet été. Cette liste n’est pas exhaustive et nous avons encore beaucoup à faire, mais je partagerai régulièrement des informations à ce sujet, afin que notre communauté sache que cette tâche est importante pour nous et que nous nous y attelons.

Une nouvelle équipe chargée de l’équité

Pour nous assurer que cette tâche est entièrement prise en charge, nous avons créé une équipe chargée de l’équité sur Instagram, qui cherchera à mieux comprendre les biais et à corriger les problèmes de partialité dans le développement de nos produits et les expériences du public sur la plateforme. L’équipe chargée de l’équité se concentrera sur la création de produits justes et équitables. Elle travaillera notamment main dans la main avec l’équipe responsable de l’IA sur Facebook pour garantir l’impartialité des algorithmes. Elle créera également de nouvelles fonctionnalités pour répondre aux besoins des communautés défavorisées. En plus de ce nouveau produit, nous recrutons un·e nouvel·le responsable de la diversité et de l’inclusion qui nous aidera à atteindre l’un des objectifs d’Instagram : trouver, conserver et cultiver des talents plus diversifiés.

Harcèlement et haine

Nous avons développé et mis à jour plusieurs règles à l’échelle de l’entreprise pour soutenir les communautés du monde entier. Nous avons mis à jour nos règles pour prendre en compte plus spécifiquement certains types de discours haineux implicites, comme les blackfaces ou les stéréotypes sur les juifs. Nous avons également renforcé nos mesures contre les individus à l’origine de graves menaces de viol. En effet, plutôt que de simplement supprimer le contenu, nous désactiverons désormais tout compte à l’origine de ce genre de menaces lorsque nous en prendrons connaissance. De plus, nous ferons en sorte que les personnalités publiques involontaires (c’est-à-dire des personnes qui n’ont pas forcément cherché à attirer l’attention, bien souvent des membres de communautés marginalisées) soient tout aussi bien protégées contre le harcèlement et l’intimidation qu’avant de devenir connues.

Nous avons continué de donner la priorité à la suppression du contenu allant à l’encontre de nos règles relatives à la lutte contre les groupes incitant à la haine. Nous avons notamment supprimé 23 organisations interdites, dont plus de la moitié soutenaient le suprémacisme blanc. De plus, nous avons récemment annoncé de nouvelles mesures contre les organisations liées à la violence, telles que QAnon.

Nous avons également effectué quelques changements pour les Creators et les entreprises. Par exemple, les personnes disposant d’un compte business ou Creator peuvent désormais choisir qui peut leur envoyer des messages directs. Pour finir, nous avons commencé à élargir les avertissements concernant les commentaires pour y inclure les commentaires dans les contenus en direct. Ainsi, les personnes laissant des commentaires susceptibles d’être offensants seront invitées à changer d’avis avant qu’ils ne soient publiés.

Vérification

Nous avons passé les deux derniers mois à examiner les pratiques de vérification d’Instagram et avons commencé à y apporter des modifications pour garantir un processus plus équitable. Un compte doit remplir plusieurs critères pour pouvoir être vérifié. Il doit notamment avoir atteint un certain niveau de notoriété. Nous mesurons la notoriété en examinant des articles de presse au sujet de la personne à l’origine de la demande de vérification. Nous avons agrandi la liste de sources que nous prenons en considération dans ce processus afin d’y inclure davantage de médias crées par des personnes issues des communautés noire, LGBTQ+ et latinx.

Bien que le nombre de followers n’ait jamais été une exigence pour qu’un compte puisse être vérifié via le formulaire intégré à l’application (que tout le monde peut utiliser), nous disposions de systèmes qui donnaient la priorité aux comptes ayant un nombre élevé de followers pour nous aider à traiter les dizaines de milliers de demandes reçues chaque jour. Nous avons depuis supprimé cette fonction de la partie automatisée du processus.

Diffusion

En réponse aux préoccupations concernant la censure sur Instagram, nous avons récemment publié les règles sur lesquelles nous nous appuyons pour déterminer les types de contenu pouvant apparaître dans des endroits comme Explorer. De cette manière, nous espérons que le public comprendra mieux pourquoi certains types de contenu ne sont pas inclus dans les recommandations sur Instagram et Facebook et peuvent donc ne pas être diffusés aussi largement. Pour développer ces règles, nous avons consulté plus de 50 expert·es spécialisé·es dans les systèmes de recommandation, l’informatique sociale, la liberté d’expression, la sécurité, et les droits civils et numériques.

Comme je l’ai mentionné dans ma première publication, tout cela prendra du temps, mais il est important de le faire et de prendre le temps de bien le faire. Si vous souhaitez nous aider dans cette tâche, consultez les postes vacants pour lesquels nous recrutons actuellement au sein de l’équipe responsable des politiques et de l’équipe produit.