Novedades sobre equidad: Qué hicimos y qué haremos

By Rachel Brooks, Stacey Houston y Christina Wadsworth

26 de abril de 2021

Las personas de la comunidad negra impulsan la cultura todos los días en Instagram. Desde activistas y creadores de comunidades hasta educadores y creativos, todos son fuente de inspiración, marcan tendencias a nivel internacional, crean nuevos géneros y modos de expresión, y usan sus voces para que otras personas y empresas respondan por sus actos.

Cuando fundamos el equipo de equidad de Instagram, nuestro objetivo era analizar en mayor profundidad las inquietudes de comunidades marginadas en Instagram. Durante los últimos meses, nuestro equipo siguió desarrollando el trabajo que comenzamos a mediados del año pasado para crear una plataforma más equitativa. Desde que comunicamos nuestras últimas novedades, logramos otros avances que hoy queremos compartir.

En primer lugar, ¿a qué se dedica el equipo de equidad?

El equipo de equidad se conformó para abordar los desafíos que las personas de comunidades marginadas enfrentan en Instagram. Sabemos que no podemos resolver todo de la noche a la mañana y que, si hacemos mucho al mismo tiempo, no haremos nada del todo bien. Por eso, primero decidimos analizar en profundidad las inquietudes de las personas de la comunidad negra en nuestra plataforma para desarrollar soluciones e implementar cambios que ayuden a estos usuarios a sentirse apoyados. Creemos que esto no solo beneficia a todas las personas en Instagram, sino que nos permite crear un modelo para abordar las necesidades de otras comunidades marginadas.

Entre las primeras tareas que realizamos, nos ocupamos de investigar exhaustivamente diferentes subgrupos e intersecciones de la comunidad negra a fin de entender su diversidad y brindar la ayuda correcta. Hablamos con creadores, activistas, responsables de políticas y otras personas para conocer la diversidad de experiencias de cada usuario en la plataforma. También estamos auditando la tecnología detrás de las recomendaciones, la clasificación y la detección automática de infracciones con el fin de entender mejor los cambios que hacen falta para garantizar que las personas no se sientan marginadas en nuestra plataforma.

Este trabajo inicial nos permitió acotar el enfoque y definir con mayor precisión los aspectos en los que se concentrará nuestro equipo. Estos aspectos son los siguientes:

  • Ayudar a cada empleado de Instagram a priorizar el desarrollo de productos y herramientas equitativos.
  • Promover la imparcialidad en la plataforma mediante nuestra tecnología y nuestros sistemas automáticos.
  • Usar Instagram para generar más oportunidades de empoderamiento.

Ayudar a cada empleado de Instagram a priorizar el desarrollo de productos y herramientas equitativos

Todas las personas que hacemos Instagram tenemos la responsabilidad de lograr que sea una plataforma más equitativa. Durante los últimos meses, el equipo de equidad lanzó un programa interno para ayudar a que los empleados que desarrollan productos y tecnologías incorporen la equidad en cada aspecto de su trabajo. Este programa, denominado Programa de productos equitativos, se creó para que los equipos piensen en los cambios grandes y pequeños que pueden hacer para conseguir un impacto positivo en comunidades marginadas. Las herramientas del programa ayudan a los empleados a pensar de manera integral durante el proceso de desarrollo para tener en cuenta el impacto específico que cada función nueva puede tener en comunidades marginadas. El Programa de productos equitativos incluye asesoramiento a los equipos durante auditorías de productos centradas en la equidad, capacitaciones, asistencia a los equipos para cambiar terminología inadecuada (p. ej., sustituir palabras comunes en el sector, como "lista blanca" y "lista negra", por "lista de autorización" y "lista de bloqueo"), y mucho más. Hasta el momento, colaboramos con tres de nuestros equipos más importantes (los equipos de Feed e historias, Reels y Creadores) para volver a evaluar sus productos y detectar qué podemos mejorar. Tenemos previsto extender este programa a todos los equipos de Instagram durante el próximo año y medio.

Desde una perspectiva más técnica, lanzamos las tarjetas para modelos de aprendizaje automático en Instagram, una lista de comprobación que busca garantizar que el aprendizaje automático nuevo se diseñe prestando especial atención a la equidad. Estas tarjetas son similares a un cuestionario y permiten a los equipos detenerse y pensar en cualquier consecuencia que podrían tener sus modelos nuevos antes de implementarlos, con el fin de reducir el potencial de sesgos algorítmicos. Las tarjetas para modelos plantean una serie de preguntas y consideraciones orientadas a la equidad con el fin de ayudar a reducir el potencial de generar un impacto no planificado en comunidades específicas. Además, nos permiten resolver cualquier problema antes de lanzar tecnología nueva. Por ejemplo, antes de las elecciones en los EE. UU., implementamos medidas temporales para que las personas no se encontraran tan fácilmente con información errónea o contenido violento. Nuestros equipos usaron las tarjetas a fin de asegurarse de implementar los modelos de aprendizaje automático correctos para proteger la integridad de las elecciones sin dejar de aplicar las políticas de forma justa ni afectar de forma desproporcionada a ninguna comunidad.

Durante los próximos 18 meses, tenemos previsto ampliar el programa para ayudar a cada equipo de Instagram a usar estas tarjetas y así lograr equidad en cada aspecto de la tecnología que desarrollamos, además de reducir el potencial de generar un impacto negativo en comunidades marginadas.

Promover la imparcialidad en la plataforma mediante nuestra tecnología y nuestros sistemas automáticos

Nuestras investigaciones nos permitieron detectar que las personas querían más transparencia sobre el funcionamiento de nuestros sistemas y las decisiones relativas al contenido. Los usuarios sentían que el crecimiento o la interacción de sus cuentas se había visto afectado de una manera que no entendían. En algunos casos, las personas asociaron este impacto con el "shadowban" (restricción de la visibilidad). Nuestras conversaciones con los usuarios nos permitieron darnos cuenta de las situaciones más habituales:

  • Las personas no entienden por qué reciben menos Me gusta o comentarios que antes.
  • Las personas perciben que nuestras decisiones y políticas no tienen en cuenta los matices culturales o históricos de las experiencias que vive cada comunidad.
  • Las personas no entienden bien cómo aplicamos las políticas y sienten que no todas las comunidades están sujetas a las mismas normas o que nuestros sistemas eliminan contenido sin una explicación clara.
  • Algunas personas experimentan problemas técnicos y los interpretan como una manera de suprimir su contenido.

Nuestras investigaciones nos permitieron entender mejor por qué los usuarios perciben sesgos y esto nos permitió sentar las bases para desarrollar herramientas y productos más transparentes. Esto incluye herramientas que permiten entender mejor las restricciones sobre la cuenta de una persona o la limitación de su alcance, así como las medidas que puede tomar para solucionar estos problemas. También tenemos previsto desarrollar un sistema de comunicación directa en la app para informar a las personas si existen errores o problemas técnicos que afecten su contenido. En los próximos meses, brindaremos más información sobre estas funciones nuevas.

Usar Instagram para generar más oportunidades de empoderamiento económico

Durante la pandemia, las comunidades marginadas sufrieron un impacto desproporcionado, que supuso desde acceso desigual a la atención médica hasta desempleo y mucho más. Gran parte de estas situaciones provienen del racismo institucional y sistémico, y debemos afrontarlas juntos como sociedad. En Facebook e Instagram, queremos usar nuestra plataforma para ayudar a acabar con todas las desigualdades posibles. En cuanto a la disparidad de acceso a la atención médica, estamos colaborando de forma estrecha con nuestros equipos de salud para garantizar que las personas se conecten con recursos que contengan información precisa sobre seguridad, requisitos y disponibilidad de vacunas.

En términos más generales, sabemos que las personas de la comunidad negra en todo el mundo no suelen tener las mismas oportunidades económicas. Aunque no podemos resolver solos el racismo institucional y sistémico que existe en la sociedad, sí podemos explorar oportunidades para ayudar a eliminar la desigualdad en Instagram, particularmente en lo que respecta a apoyar a empresas y creadores de la comunidad negra. Empezamos a ocuparnos de esto el año pasado, cuando destinamos 25 millones de USD a creadores de la comunidad negra en Facebook e Instagram. Como parte de esta inversión, lanzamos un programa nuevo para brindar a la próxima generación de creadores de la comunidad negra el dinero y los recursos que necesitan para alcanzar el éxito online y offline. Además, lanzamos el sticker #BuyBlack en las historias para ayudar a las personas a identificar y apoyar a las empresas cuyos propietarios sean de la comunidad negra. En los próximos meses, lanzaremos nuevas funciones en nuestros productos para ayudar a las personas a descubrir este tipo de empresas y darlas a conocer, así como funciones específicas para que los usuarios encuentren a estas empresas en Instagram. Todo esto sumado a la protección contra posibles interacciones dañinas.

— —

Nuestro equipo se esfuerza a diario por mejorar las experiencias de las comunidades marginadas en Instagram. Las investigaciones que llevamos a cabo el año pasado nos permitieron reconocer y entender mejor qué sucede, pero sabemos que siempre podemos hacer más. Seguiremos trabajando incansablemente para que todas las personas en la plataforma sientan que pueden expresarse libremente, que nuestras herramientas las empoderan y que Instagram está de su lado.

ARTÍCULOS RELACIONADOS

Descubre más novedades sobre Instagram