Presentamos nuevas formas de proteger a nuestra comunidad del maltrato

De  

Adam Mosseri

10 de agosto de 2021

Hoy queremos anunciar el lanzamiento de un grupo de funciones que nos ayudarán a proteger a las personas del maltrato en Instagram.

  • Las personas podrán limitar los comentarios o las solicitudes de MD durante los momentos en los que estén recibiendo más atención de la habitual.
  • Mostraremos advertencias más firmes cuando las personas intenten publicar comentarios posiblemente ofensivos.
  • Se lanzará globalmente la función de palabras ocultas, que permite a las personas filtrar las solicitudes de MD ofensivas.

Tenemos la responsabilidad de garantizar que todas las personas se sientan seguras cuando usan Instagram. El lenguaje que incita al odio y el bullying no se admiten en la plataforma, por lo que eliminamos el contenido de ese tipo cuando lo detectamos. También queremos evitar la exposición de las personas a este tipo de maltrato. Por esa razón, a partir de los comentarios de los especialistas y de nuestra comunidad, desarrollamos nuevas funciones constantemente para brindar a las personas más control sobre su experiencia en Instagram y protegerlas del maltrato.

Limitaciones: un método para prevenir fácilmente los comentarios y los MD no deseados

Para proteger a las personas que reciben o creen que van a recibir un gran volumen de comentarios y MD ofensivos, presentamos Limitaciones. Esta función se activa con facilidad y oculta automáticamente los comentarios y las solicitudes de MD de las personas que no te siguen o te empezaron a seguir hace poco tiempo.

Desarrollamos esta función porque sabemos que, a veces, los creadores y las figuras públicas repentinamente reciben más comentarios y solicitudes de MD de lo habitual de parte de personas a las que no conocen. En muchos casos, se trata de muestras de apoyo, por ejemplo, cuando se viralizan después de ganar una medalla olímpica. Sin embargo, muchas veces, también puede tratarse de un gran volumen de mensajes o comentarios no deseados. A partir de ahora, si estás atravesando una situación de ese tipo (o crees que podrías atravesarla en breve), puedes activar Limitaciones para evitarla.

De acuerdo con nuestras investigaciones, gran parte de la negatividad que reciben las figuras públicas proviene de personas que no las siguen o que empezaron a seguirlas hace poco tiempo y se suman a la tendencia. Es una situación que detectamos recientemente, en la final de la Eurocopa 2020, cuando se generó una ola significativa e inaceptable de maltrato racista hacia algunos jugadores. Además, los creadores indican que no quieren desactivar todos los comentarios y mensajes porque quieren seguir escuchando a su comunidad y fomentando esas relaciones. La función Limitaciones te permite interactuar con tus seguidores de siempre y, al mismo tiempo, limitar el contacto con las personas que podrían estar dirigiéndose a tu cuenta solo para maltratarte.

A partir de hoy, Limitaciones estará disponible para todos los usuarios de Instagram en todo el mundo. Puedes activar o desactivar esta función en cualquier momento en la configuración de privacidad. También estamos explorando formas de detectar los momentos en los que recibes una ola de comentarios o MD a fin de poder invitarte a activar Limitaciones.

Advertencias más firmes para evitar el acoso

Ya mostramos una advertencia cuando una persona intenta publicar un comentario que podría ser ofensivo. Si la persona intenta publicar comentarios de ese tipo varias veces, le mostramos una advertencia más firme con un recordatorio sobre las Normas comunitarias y un aviso de que podríamos eliminar u ocultar su comentario si lo publica. A partir de ahora, en lugar de esperar a que la persona comente por segunda o tercera vez, le mostraremos ese mensaje más firme la primera vez.

Descubrimos que estas advertencias logran evitar que las personas publiquen contenido ofensivo. Por ejemplo, a lo largo de la semana pasada, mostramos advertencias cerca de un millón de veces por día cuando las personas hacían comentarios que eran potencialmente ofensivos. Los usuarios editaron el comentario o lo eliminaron en función de las advertencias, aproximadamente, el 50% de las veces.

Combatir el maltrato en los MD y los comentarios

Para proteger a las personas del maltrato en las solicitudes de MD, presentamos recientemente la función de palabras ocultas, que permite que las personas filtren automáticamente palabras, frases y emojis ofensivos, y agrupa los mensajes que los incluyan en una carpeta oculta que pueden no abrir nunca si no lo desean. Además, filtra las solicitudes de MD que probablemente sean spam o de baja calidad. Lanzamos esta función en varios países a principios de este año y estará disponible para todas las personas a fines de este mes. Seguiremos animando a las cuentas con una gran cantidad de seguidores a usar esta función con mensajes en la bandeja de entrada de los MD y al comienzo de la bandeja de historias.

Ampliamos la lista de palabras, hashtags y emojis posiblemente ofensivos que filtramos de manera automática en los comentarios y seguiremos actualizándola con frecuencia. Hace poco, agregamos la nueva opción "Ocultar más comentarios", que permite ocultar aquellos comentarios que podrían ser ofensivos, incluso si no infringen nuestras reglas.

Continuar la lucha contra el maltrato online

Esperamos que estas funciones nuevas ayuden a evitar que las personas vean contenido ofensivo, ya sea racista, sexista, homofóbico o de cualquier otro tipo. Sabemos que hay más por hacer, como mejorar nuestros sistemas para encontrar y eliminar el contenido ofensivo más rápidamente y sancionar a quienes lo publican. También sabemos que, si bien tenemos el compromiso de hacer nuestro mayor esfuerzo para luchar contra el odio en nuestra plataforma, estos problemas a veces están más allá de nuestro alcance. Seguiremos invirtiendo en las organizaciones que trabajan en la igualdad y la justicia racial, y esperamos colaborar con más organizaciones del sector, entidades gubernamentales y organizaciones no gubernamentales para educar a las personas y ayudar a erradicar el odio. Aún queda trabajo por hacer y seguiremos compartiendo las novedades sobre nuestro progreso.