Presentamos nuevas formas de proteger a nuestra comunidad del maltrato

De  

Adam Mosseri

10 de agosto de 2021

Actualización del 30 de mayo de 2024: estamos ampliando las limitaciones para brindar a las personas, en especial a los adolescentes, más formas de lidiar con el bullying. Ahora las personas pueden limitar temporalmente las interacciones. De esta manera, solo podrán ver comentarios, chats, etiquetas y menciones de sus mejores amigos.

Hoy queremos anunciar el lanzamiento de un grupo de funciones que nos ayudarán a proteger a las personas del maltrato en Instagram:

  • Las personas podrán limitar los comentarios o las solicitudes de MD durante los momentos en los que estén recibiendo más atención de la habitual.
  • Mostraremos advertencias más firmes cuando las personas intenten publicar comentarios posiblemente ofensivos.
  • Se lanzará globalmente la función de palabras ocultas, que permite a las personas filtrar las solicitudes de MD ofensivas.

Tenemos la responsabilidad de garantizar que todas las personas se sientan seguras cuando usan Instagram. El lenguaje que incita al odio y el bullying no se admiten en la plataforma, y eliminamos contenido de ese tipo cuando lo detectamos. También queremos evitar la exposición de las personas a ese tipo de maltrato. Por esa razón, a partir de los comentarios de los especialistas y de nuestra comunidad, desarrollamos nuevas funciones constantemente para brindar a las personas más control sobre su experiencia en Instagram y protegerlas del maltrato.

Limitaciones: un método para prevenir fácilmente los comentarios y los MD no deseados

Para proteger a las personas que reciben o creen que van a recibir un gran volumen de comentarios y MD ofensivos, presentamos Limitaciones. Esta función se activa con facilidad y oculta automáticamente los comentarios y las solicitudes de MD de las personas que no te siguen o te empezaron a seguir hace poco tiempo.

Desarrollamos esta función porque sabemos que, a veces, los creadores y las figuras públicas reciben repentinamente más comentarios y solicitudes de MD de lo habitual de parte de personas que no conocen. En muchos casos, se trata de muestras de apoyo, por ejemplo, cuando se viralizan después de ganar una medalla olímpica. Sin embargo, muchas veces, también puede tratarse de un gran volumen de mensajes o comentarios no deseados. A partir de ahora, si estás atravesando una situación de ese tipo (o crees que podrías atravesarla en breve), puedes activar Limitaciones para evitarla.

De acuerdo con nuestras investigaciones, gran parte de la negatividad que reciben las figuras públicas proviene de personas que no las siguen o que empezaron a seguirlas hace poco tiempo y se suman a la tendencia. Es una situación que detectamos recientemente, en la final de la Eurocopa 2020, cuando se generó una ola significativa e inaceptable de maltrato racista hacia algunos jugadores. Además, los creadores indican que no quieren desactivar todos los comentarios y mensajes porque quieren seguir escuchando a su comunidad y fomentando esas relaciones. La función Limitaciones te permite escuchar a tus seguidores de siempre y, al mismo tiempo, limitar el contacto con las personas que podrían estar dirigiéndose a tu cuenta solo para maltratarte.

A partir de hoy, Limitaciones estará disponible en Instagram para todas las personas en todo el mundo. Puedes activar o desactivar esta función en cualquier momento en la configuración de privacidad. También estamos explorando formas de detectar los momentos en los que recibes una ola de comentarios o MD para invitarte a activar Limitaciones.

Advertencias más firmes para evitar el acoso

Ya mostramos una advertencia cuando una persona intenta publicar un comentario que podría ser ofensivo. Si la persona intenta publicar comentarios de ese tipo varias veces, le mostramos una advertencia más firme con un recordatorio sobre las Normas comunitarias y un aviso de que podríamos eliminar u ocultar el comentario si lo publica. A partir de ahora, en lugar de esperar a que la persona comente por segunda o tercera vez, le mostraremos ese mensaje más severo la primera vez.

Descubrimos que esas advertencias de verdad evitan que las personas publiquen contenido ofensivo. Por ejemplo, a lo largo de la semana pasada, mostramos advertencias cerca de un millón de veces por día cuando las personas hacían comentarios que eran potencialmente ofensivos. De esas situaciones, alrededor de la mitad de las veces los usuarios editaron el comentario o lo eliminaron en función de las advertencias.

Combatir el maltrato en MD y comentarios

Para proteger a las personas del maltrato en las solicitudes de MD, presentamos recientemente la función de palabras ocultas, que permite que las personas filtren automáticamente palabras, frases y emojis ofensivos, y los guarden en una carpeta oculta que pueden no abrir nunca si no lo desean. Además, filtra las solicitudes de MD que probablemente sean spam o de baja calidad. Lanzamos esta función en varios países a principios de este año y, a fines de este mes, estará disponible para todas las personas. Seguiremos animando a las cuentas con una gran cantidad de seguidores a usar esta función con mensajes en la bandeja de entrada de los MD y al comienzo de la bandeja de historias.

Ampliamos la lista de palabras, hashtags y emojis posiblemente ofensivos que filtramos de manera automática en los comentarios y seguiremos actualizándola con frecuencia. Hace poco, agregamos la nueva opción "Ocultar más comentarios", que permite ocultar aquellos comentarios que podrían ser ofensivos, incluso si no infringen nuestras reglas.

Continuar la lucha contra el maltrato online

Esperamos que esas funciones nuevas ayuden a evitar que las personas vean contenido ofensivo, ya sea racista, sexista, homofóbico o de cualquier otro tipo. Sabemos que hay más por hacer, como mejorar nuestros sistemas para encontrar y eliminar el contenido ofensivo más rápidamente y sancionar a quienes lo publican. También sabemos que, si bien tenemos el compromiso de hacer el mayor esfuerzo para luchar contra el odio en nuestra plataforma, esos problemas a veces están más allá de nuestro alcance. Seguiremos invirtiendo en las organizaciones que se enfocan en la igualdad y la justicia racial, y esperamos colaborar con más organizaciones del sector, entidades gubernamentales y organizaciones no gubernamentales para educar a las personas y ayudar a erradicar el odio. Aún queda trabajo por hacer y seguiremos compartiendo las novedades sobre nuestro progreso.