Novedades sobre nuestro trabajo relacionado con la equidad

En medio de esta pandemia mundial, las próximas elecciones y el contexto de tensiones raciales en aumento, notamos un cambio en la forma en que las personas usan Instagram. Hoy más que nunca, las personas usan la plataforma para concientizar sobre las causas raciales, cívicas y sociales que les importan. Esta es la principal razón por la que en junio nos comprometimos a revisar las formas en que Instagram puede desfavorecer a determinados grupos de personas. Es nuestra responsabilidad poner bajo la lupa lo que creamos y cómo lo hacemos, de modo que las experiencias de las personas con nuestro producto reflejen mejor las acciones y aspiraciones de nuestra comunidad.

A continuación, encontrarás novedades sobre las áreas que mejoramos durante el verano boreal. Estas medidas no son en absoluto exhaustivas, y aún nos queda mucho trabajo por hacer. Compartiré novedades regularmente para que nuestra comunidad sepa que este trabajo es importante y continuo.

Nuevo equipo de equidad

A fin de garantizar que este trabajo esté totalmente respaldado, creamos un grupo de producto exclusivo en Instagram, el equipo de equidad, que se centrará en analizar y abordar mejor los sesgos en el desarrollo de nuestro producto y en las experiencias de las personas en esta plataforma. El equipo de equidad se dedicará a crear productos justos y equitativos. Para ello, trabajará con el equipo de inteligencia artificial responsable de Facebook a fin de garantizar la imparcialidad de los algoritmos. También desarrollará nuevas funciones para responder a las necesidades de las comunidades desfavorecidas. Además de este nuevo grupo de producto, también contrataremos a un nuevo director de diversidad e inclusión para Instagram, que contribuirá al objetivo de Instagram de encontrar, mantener y fomentar la diversidad de los talentos.

Acoso y odio

Desarrollamos y modificamos algunas políticas en toda la empresa a fin de apoyar a las comunidades de todo el mundo. Actualizamos nuestras políticas para abordar de forma más específica algunos tipos implícitos de lenguaje que incita al odio, como contenido que muestra blackface (cuando las personas que no son negras se pintan la cara de negro, una práctica considerada racista) o estereotipos relacionados con el pueblo judío. También reforzamos la aplicación de medidas contra personas que realizan amenazas de violación graves. Inhabilitaremos las cuentas que realicen amenazas en cuanto las detectemos, en lugar de solo eliminar el contenido. Además, nos aseguraremos de proteger frente al acoso y el bullying a las figuras públicas no voluntarias, es decir, quienes tal vez no tuvieron la intención de llamar la atención (y que generalmente pertenecen a comunidades marginalizadas), tal como lo hacíamos antes de que pasaran a ser el centro de atención.

Seguimos priorizando la eliminación del contenido que infringe nuestra política contra los grupos que incitan al odio. Esto incluye la eliminación de 23 organizaciones prohibidas diferentes, de las cuales la mitad propugnaban la supremacía blanca. Además, recientemente anunciamos novedades relacionadas con medidas contra organizaciones que promueven la violencia, como QAnon.

También realizamos algunos cambios para creadores y negocios. Por ejemplo, las personas con cuentas comerciales o de creador ahora pueden administrar quién puede enviarles mensajes directos. También comenzamos a ampliar las advertencias en comentarios a fin de incluir los que se realizan en Live, de modo que se solicitará a las personas que vuelvan a considerar los comentarios que podrían ser ofensivos antes de publicarlos.

Verificación

Dedicamos los últimos dos meses a revisar las prácticas de verificación de Instagram y empezamos a implementar cambios para garantizar un proceso más justo. Una cuenta debe cumplir determinados criterios antes de que la verifiquemos, por ejemplo, debe tener cierto nivel de relevancia. Medimos la relevancia mediante artículos de prensa sobre la persona que solicita la verificación. Ampliamos la lista de fuentes periodísticas que tenemos en cuenta en el proceso, que ahora incluye más medios relacionados con las comunidades negra, LGBTQ+ y latina.

Si bien el número de seguidores nunca fue un requisito para la verificación a través del formulario en la app, ya que todos pueden solicitarla, contábamos con determinados sistemas que priorizaban a las cuentas con un gran número de seguidores para ayudarnos a procesar las miles de solicitudes que recibimos cada día. Desde entonces, eliminamos ese componente de la parte automática del proceso.

Distribución

En respuesta a las preocupaciones constantes sobre la censura percibida en Instagram, recientemente publicamos las pautas que seguimos para determinar los tipos de contenido que pueden aparecer en lugares como la sección "Explorar". Esperamos que las personas comprendan mejor por qué algunos tipos de contenido no se incluyen en recomendaciones en Instagram y Facebook, por lo que es posible que no se distribuyan tan ampliamente. A la hora de desarrollar estas pautas, consultamos a más de 50 expertos líderes especializados en sistemas de recomendaciones, informática social, libertad de expresión, seguridad y derechos civiles y digitales.

Como afirmé en mi primera publicación, este trabajo llevará tiempo, pero es importante hacerlo sin apuro para garantizar que sea eficaz. Si te interesa ayudarnos en este proyecto, consulta algunos de los puestos que actualmente tenemos vacantes en el equipo de política y el equipo de producto.