Actualización sobre nuestra labor para combatir el abuso en Instagram

Nuestro objetivo es que Instagram sea un lugar donde todo el mundo pueda conectar con las personas y los temas que le apasionan, aunque somos conscientes de que, tal como sucede en la vida real, siempre habrá quienes intenten hacer daño a los demás. Un ejemplo de ello son las conductas racistas hacia futbolistas en Reino Unido que se han producido recientemente en internet. Estos comportamientos no tienen cabida en Instagram.

Muchos de los abusos que detectamos se producen en mensajes directos (MD), lo que nos dificulta poder tomar medidas, ya que, a diferencia de los comentarios en Instagram, estas comunicaciones son privadas, por lo que no podemos recurrir a la tecnología para detectar de manera proactiva contenido como el lenguaje que incita al odio o el bullying, tal como hacemos en otros lugares en la plataforma. A pesar de esto, existen algunas medidas que podemos aplicar para evitar este tipo de comportamientos. Hoy anunciamos algunas de ellas, entre las que se incluyen eliminar las cuentas de quienes envíen mensajes ofensivos y desarrollar nuevos controles para reducir las conductas abusivas en los mensajes directos.

Nuestra postura frente al lenguaje que incita al odio

Nuestras reglas contra el lenguaje que incita al odio no permiten los ataques a las personas por características protegidas como la raza o la religión. El año pasado decidimos reforzarlas con la intención de prohibir más formas implícitas de incitación al odio, como el contenido en el que se muestran caras pintadas de negro o se incide en tópicos antisemitas. No dudamos en actuar siempre que detectamos comportamientos de este tipo, y trabajamos para mejorar constantemente nuestras herramientas de detección para poder erradicarlos con más eficacia. De hecho, entre los meses de julio y septiembre del año pasado tomamos medidas respecto a 6,5 millones de activos de contenido (incluidos mensajes directos) que incitaban al odio en Instagram. Pudimos detectar el 95 % de estos casos antes de que alguien los denunciara.

Sanciones más estrictas para quienes envíen mensajes ofensivos

También queremos anunciar que vamos a endurecer las medidas que se tomarán cuando detectemos que se incumplen estas reglas en los mensajes directos. Actualmente, cuando alguien envía mensajes que las infringen, le prohibimos enviar mensajes durante un período de tiempo determinado. Sin embargo, a partir de ahora desactivaremos las cuentas de quienes incumplan estas reglas de forma reiterada, así como las cuentas nuevas que se creen para eludir las restricciones que impongamos al envío de mensajes. Por otra parte, seguiremos inhabilitando todas las cuentas cuya única finalidad sea enviar mensajes ofensivos.

Colaboración con las autoridades policiales

También queremos destacar nuestro compromiso de cooperar con las autoridades policiales de Reino Unido para combatir el lenguaje que incita al odio, por lo que responderemos ante cualquier solicitud legal de información válida acerca de este tipo de casos. Igual que hacemos con los demás requerimientos que recibimos por parte de las autoridades policiales, rechazaremos aquellas que sean demasiado generales, contradigan los derechos humanos o no sean válidas desde el punto de vista legal.

Herramientas para que las personas controlen su experiencia

En lo que respecta a los comentarios en Instagram, también disponemos de numerosas herramientas para la protección personal, como los filtros de comentarios, que sirven para impedir que otras personas publiquen comentarios ofensivos con palabras, frases o emoticonos no deseados. Asimismo, el año pasado anunciamos una nueva función para administrar varios comentarios no deseados a la vez, que permite eliminarlos o bloquear las cuentas que los publican de forma masiva. Por otra parte, desde que empezamos a usar la inteligencia artificial para advertir a las personas de que están a punto de publicar contenido que puede ser ofensivo, el número de comentarios de este tipo se ha reducido.

Combatir el contenido hiriente y ofensivo en los mensajes directos es mucho más complejo dada la naturaleza privada de estas conversaciones. Por eso, las cuentas empresariales y de creador (que suelen tener grandes volúmenes de seguidores y recibir mensajes realmente abusivos de personas desconocidas) tienen la opción de desactivar los mensajes de personas que no les siguen. Hemos empezado a implementar estos controles también en cuentas personales de varios países y esperamos poder ponerlos a disposición de todo el mundo pronto. Las personas también pueden controlar su experiencia de otras maneras, como desactivando las etiquetas y las menciones de quienes no conocen y bloqueando a cualquiera que les envíe mensajes no deseados.

Tras las conversaciones que hemos mantenido con nuestra comunidad, somos conscientes de que el mero hecho de ver mensajes directos abusivos es dañino para quien los recibe. Por eso, estamos trabajando en una nueva función pensada para abordar este problema, en la que aplicaremos los comentarios de nuestra comunidad y que esperamos lanzar en los próximos meses.

Si bien sabemos que el odio y el racismo son problemas que van más allá de nuestra plataforma, nos comprometemos a hacer todo lo que esté en nuestra mano para erradicarlos de nuestros productos, y esperamos poder colaborar con otras empresas, asociaciones de fútbol, ONG, gobiernos, padres y educadores, tanto dentro como fuera de internet.