Actualización sobre el trabajo que llevamos adelante para combatir el abuso en Instagram

Queremos que Instagram sea una plataforma en la que los usuarios puedan conectarse con las personas y las cosas que aman. Sin embargo, también sabemos que, al igual que en el mundo real, siempre habrá personas que abusen de otras. En los últimos tiempos, notamos prácticas racistas dirigidas a futbolistas en el Reino Unido. No queremos este comportamiento en Instagram.

En muchas ocasiones, el abuso se produce en los mensajes directos (DM). Estos casos son más difíciles de abordar que los que se producen en los comentarios de Instagram. A diferencia de lo que hacemos en otras partes de la plataforma, no podemos usar tecnología de vanguardia para detectar lenguaje que incita al odio o bullying en los mensajes directos, dado que son conversaciones privadas. Sin embargo, podemos adoptar más medidas para ayudar a prevenir este tipo de comportamiento. El día de hoy, anunciamos nuevas medidas, como la eliminación de las cuentas de las personas que envíen mensajes ofensivos, y desarrollamos nuevos controles para reducir el abuso a través de mensajes directos.

Nuestra postura sobre el lenguaje que incita al odio

Nuestras reglas sobre el lenguaje que incita al odio no aceptan ataques a personas por sus características protegidas, como la raza o la religión. El año pasado, fortalecimos estas reglas y comenzamos a prohibir contenidos con lenguaje que incita al odio de forma implícita, por ejemplo, contenido con tropos antisemitas y que muestra blackface (cuando las personas que no son negras se pintan la cara de negro). Tomamos medidas cada vez que identificamos lenguaje que incita al odio. Además, mejoramos nuestras herramientas de detección de manera continua para poder identificarlo con más rapidez. Entre julio y septiembre del año pasado, tomamos medidas sobre 6,5 millones de casos de lenguaje que incita al odio, incluidos los que se producen en mensajes directos, y el 95% lo identificamos antes de que lo reportaran.

Sanciones más graves para las personas que envían mensajes ofensivos

El día de hoy, anunciamos que comenzaremos a tomas medidas más estrictas cuando identifiquemos a personas que infringen nuestras reglas en los mensajes directos. En el pasado, cuando alguien enviaba mensajes directos que infringían nuestras reglas, le prohibíamos enviar mensajes durante un período. A partir de ahora, si una persona sigue enviando mensajes que infringen las reglas, desactivamos su cuenta. También desactivamos las cuentas nuevas creadas para evitar nuestras restricciones y seguiremos desactivando las cuentas que se crean solo con el fin de enviar mensajes ofensivos.

Trabajo conjunto con las autoridades policiales

Nos comprometemos a cooperar con las autoridades policiales del Reino Unido cuando identifiquemos lenguaje que incite al odio y responderemos las solicitudes legales válidas en las que se pida información para estos casos. Al igual que con todas las solicitudes de las autoridades policiales, las rechazamos si no son específicas, si no respetan los derechos humanos o si no son válidas legalmente.

Herramientas para controlar tu experiencia

Cuando se trata de comentarios en Instagram, también tenemos herramientas para ayudar a que las personas se protejan. Las personas pueden usar filtros en los comentarios para evitar que otras personas dejen comentarios ofensivos con palabras, frases o emojis que no quieren ver. El año pasado, anunciamos una nueva función para administrar varios comentarios no deseados a la vez: eliminar todos los mensajes juntos o bloquear al mismo tiempo a todas las cuentas que los publicaron. También notamos que disminuyeron de manera considerable los comentarios ofensivos después de que empezamos a usar inteligencia artificial para advertir a las personas de que lo que están por comentar puede ser ofensivo.

Como los mensajes directos son conversaciones privadas, es más difícil garantizar que las personas no vean contenido hiriente u ofensivo. Las cuentas comerciales o de creadores, que suelen tener muchos seguidores y reciben más mensajes ofensivos de personas que no conocen, pueden desactivar los mensajes directos de personas que no siguen. Estos controles empezaron a estar disponibles para las cuentas personales en varios países, y esperamos que pronto estén disponibles para todos los usuarios. A su vez, las personas pueden desactivar las etiquetas o las menciones de personas que no conocen o bloquear a cualquiera que les envíe mensajes no deseados.

Nuestra comunidad nos hizo saber claramente que los mensajes directos con contenido ofensivo tienen un impacto negativo en las personas. Como resultados, estamos trabajando en una nueva función para ayudar en estos casos, que permitirá que nuestra comunidad deje sus comentarios. Esperamos poder lanzarla en los próximos meses.

Nos comprometemos a hacer todo lo que podamos para luchar contra el odio y el racismo en nuestra plataforma, pero también sabemos que estos problemas a veces nos exceden y están más allá de nuestro alcance. Esperamos poder trabajar con otras empresas, asociaciones de fútbol, ONG, gobiernos, padres y educadores, ya sea online u offline.