Des nouvelles de notre travail sur l’équité : progrès accomplis et à venir

Chaque jour, la communauté noire met en avant la culture sur Instagram. Militant·es ou créateur·ices de communautés, éducateur·ices ou créatif·ves : elles ou ils incarnent l’inspiration, lancent des tendances mondiales, créent de nouveaux genres et formes d’expression, et prennent la parole pour exiger la responsabilité des personnes et des entreprises.

Au moment de lancer notre équipe Équité sur Instagram, notre objectif était de mieux cerner les préoccupations mises en avant par les communautés marginalisées sur Instagram. Au cours des derniers mois, notre équipe s’est servi des bases jetées l’été passé afin de créer une plateforme plus équitable. Depuis notre dernier compte-rendu, nous avons accompli des progrès supplémentaires, que nous aimerions partager avec vous aujourd’hui.

Tout d’abord, quel est le rôle de l’équipe Équité ?

Cette équipe a été créée pour répondre aux problématiques rencontrées par les personnes issues de milieux marginalisés sur Instagram. Nous savons qu’il est impossible d’y remédier d’un claquement de doigts, et qu’il vaut mieux se concentrer sur une chose à la fois plutôt que d’essayer de trop en faire d’un coup. C’est pourquoi nous avons décidé de nous attaquer en premier lieu aux préoccupations soulevées par la communauté noire sur notre plateforme, de trouver des solutions et d’apporter les changements nécessaires pour qu’elle se sente davantage soutenue. Nous avons la conviction que cette démarche ne sera pas uniquement bénéfique aux utilisateur·ices d’Instagram, mais qu’elle nous servira de modèle pour mieux appréhender les besoins des autres groupes marginalisés.

Notre travail préparatoire a consisté à mener de vastes recherches, organisées par sous-ensembles et intersections de la communauté noire, afin de comprendre et de respecter sa diversité. Nous avons parlé à des Creators, des militant·es, des spécialistes en réglementation et des citoyen·nes lambda dans le but de décortiquer la diversité des expériences vécues sur notre plateforme. Nous conduisons en outre un audit de la technologie qui alimente l’automatisation de nos fonctionnalités de mise en application, de recommandations et de classement afin de mieux comprendre les changements nécessaires au sentiment d’appartenance sur notre plateforme.

Ce travail de préparation nous a permis de restreindre notre champ d’action et de déterminer précisément le travail de notre équipe. Notre équipe dispose de trois axes de travail :

• Aider chaque employé·e Instagram à prioriser la création de produits et outils équitables
• Promouvoir l’équité sur notre plateforme grâce à notre technologie et nos systèmes automatisés
• Utiliser Instagram pour redonner plus de pouvoir aux individus.

Aider chaque employé·e Instagram à prioriser la création de produits et outils équitables

Rendre la plateforme plus équitable est la responsabilité de tous et toutes chez Instagram. Au cours des derniers mois, l’équipe Équité a lancé un programme en interne visant à aider les employé·es responsables de la création de nouveaux produits et technologies à prendre en compte l’équité à chaque étape de leur travail. Le programme, appelé Equitable Product Program, a été créé pour aider les équipes à se demander quels changements, petits et grands, elles pouvaient accomplir pour avoir un impact positif sur les communautés marginalisées. Il dote les employé·es d’outils qui leur permettent d’avoir une vision globale sur ce qu’elles ou ils développent et, plus particulièrement, de prendre en considération l’impact des nouvelles fonctionnalités sur les communautés marginalisées. Le programme Equitable Product Program accompagne notamment les équipes pendant les audits de produits en mettant l’accent sur l’équité. Il propose des formations, aide les équipes à renommer certains termes du code de base qui sont porteurs de significations lourdes (par exemple, en remplaçant les termes habituels de « liste blanche » ou « liste noire » par les termes « liste d’éléments autorisés » et « liste d’éléments bloqués ») et bien plus encore. Jusqu’ici, nous avons travaillé avec trois de nos principales équipes (celles responsables du fil d’actualité et des stories, des reels et des Creators) afin de réévaluer ces produits et de déterminer les points à améliorer. Dans les 18 prochains mois, nous étendrons ce programme à toutes les équipes Instagram.

Sur une note plus technique, nous avons lancé les cartes de modèles de machine learning sur Instagram. Il s’agit d’une checklist qui nous permet de garantir l’équité de nos nouveaux modèles de machine learning. Les cartes de modèles fonctionnent de la même manière qu’un questionnaire. Grâce à elles, les équipes prennent le temps de s’interroger sur les conséquences éventuelles de leurs nouveaux modèles avant leur implémentation afin de réduire le risque de biais algorithmique. Ces cartes de modèles posent une série de questions relatives à l’équité dans le but de réduire les éventuels impacts indésirables sur des communautés spécifiques. En outre, elles nous permettent de remédier à tout problème avant le lancement d’une nouvelle technologie. Par exemple, avant les élections aux États-Unis, nous avons mis en place des mesures temporaires afin de freiner la circulation de fausses informations et de contenus violents. Nos équipes ont utilisé des cartes de modèles afin de vérifier que les modèles de machine learning correspondants étaient utilisés pour protéger les élections, tout en vérifiant que nos règles étaient appliquées d’une manière équitable et qu’elles n’avaient pas un impact disproportionné sur une communauté ou une autre.

Au cours des 18 prochains mois, nous prévoyons d’élargir ce programme afin d’aider chaque équipe sur Instagram à utiliser ces cartes pour garantir l’équité à chaque étape du développement de notre technologie et ainsi réduire les impacts éventuels sur les communautés défavorisées.

Promouvoir l’équité sur notre plateforme grâce à notre technologie et nos systèmes automatisés

Au cours de nos recherches, nous avons été confronté·es à un thème récurrent. En effet, les internautes attendent plus de transparence sur la manière dont nos systèmes fonctionnent et dont nous prenons des décisions relatives au contenu. Certaines personnes avaient l’impression que la croissance ou les interactions de leur compte avaient été perturbées, sans qu’elles comprennent pourquoi. Ce phénomène est parfois appelé « shadowbanning », et désigne le fait d’être invisibilisé à son insu. Lors de nos conversations avec les utilisateur·ices, nous avons appris que ce phénomène était principalement lié aux aspects suivants :

• Des personnes reçoivent moins de mentions J’aime ou de commentaires qu’auparavant sans comprendre pourquoi
• Le sentiment que nos décisions ou nos règles ne prennent pas en considération les nuances culturelles et/ou historiques inhérentes au vécu des différentes communautés
• Une confusion engendrée par la mise en application de nos règles, avec le sentiment que certaines communautés étaient plus scrutées que d’autres ou que nos systèmes supprimaient des contenus sans fournir d’explication claire
• Des problèmes techniques, dont certains ont été perçus comme une forme de censure

Nos recherches nous ont permis de mieux comprendre les raisons de ce sentiment d’injustice, et ainsi d’élaborer des outils et des produits plus transparents. Ce processus implique notamment des outils visant à favoriser la transparence des restrictions imposées à un compte personnel, comme la restriction de la couverture, et des actions que ce compte peut entreprendre pour y remédier. Nous prévoyons également d’intégrer une communication directement dans l’application afin d’informer les utilisateur·ices des bugs et des incidents techniques susceptibles d’influer sur leur contenu. Dans les mois à venir, nous partagerons plus d’informations sur ces nouvelles fonctionnalités.

Utiliser Instagram pour renforcer l’autonomie économique

Pendant la pandémie, les communautés marginalisées ont été touchées de manière disproportionnée : l’accès inéquitable aux services de santé et la perte d’emploi n’en sont que des exemples. Ces conséquences trouvent majoritairement leur cause dans un racisme institutionnel et systémique. Il revient donc à la société d’œuvrer en commun pour y faire face. Sur Facebook et Instagram, notre volonté est d’utiliser notre plateforme pour gommer ces inégalités autant que possible. Sur la question des inégalités de santé, cela signifie que nous collaborons étroitement avec nos équipes dédiées à la santé pour garantir l’accès à des ressources fiables sur la sécurité, l’éligibilité et la disponibilité des vaccins.

D’une manière générale, nous avons conscience que les personnes noires n’ont pas disposé des mêmes opportunités économiques, et ce partout dans le monde. Si nos efforts seuls ne suffisent pas à résoudre le problème du racisme systémique et institutionnel présent dans notre société, nous pouvons explorer les manières de gommer ces inégalités sur Instagram, en particulier lorsqu’il s’agit de soutenir les entreprises et les Creators de la communauté noire. Nous avons commencé ce combat l’année passée en investissant 25 millions de dollars dans les Creators de la communauté noire sur Facebook et Instagram. Dans le cadre de cet investissement, nous avons également lancé un nouveau programme pour doter la nouvelle génération de Creators noir·es des fonds et des ressources nécessaires pour réussir en ligne et hors ligne. En outre, nous avons lancé un sticker #BuyBlack dans les stories, qui permet aux d’identifier et de soutenir les entreprises de la communauté noire. Dans les mois à venir, nous déploierons de nouvelles fonctionnalités pour aider les utilisateur·ices à découvrir et à faire grandir ces entreprises. Nous mettrons également au point des fonctionnalités spécifiques qui permettront de trouver ces entreprises sur Instagram tout en œuvrant à garantir leur protection contre les interactions néfastes.

Chaque jour, notre équipe se donne pour mission d’améliorer les expériences des communautés marginalisées sur Instagram. Nos recherches conduites au cours de l’année passée nous ont aidé·es à faire preuve de plus de considération et de compréhension, même si le travail qui reste à faire est immense. Nous continuerons à tout faire pour que cette plateforme garantisse la sécurité et la libre expression de chacun·e, grâce à nos outils et avec le soutien d’Instagram.