Presentamos nuevas herramientas para proteger a nuestra comunidad del maltrato

21 de abril de 2021

Hace poco, compartimos novedades sobre nuestro trabajo para combatir el maltrato y el lenguaje que incita al odio en Instagram, por ejemplo, penalizaciones más graves para aquellos que envíen mensajes directos (MD) ofensivos. Ahora, queremos anunciar el lanzamiento de una nueva medida para proteger a las personas de los MD ofensivos y de la función para evitar que una persona a la que bloqueaste se ponga en contacto contigo desde una cuenta nueva.

Nueva función para filtrar los mensajes ofensivos

Ejemplo de la sección de palabras ocultas en un dispositivo móvil.

Sabemos el impacto que puede tener en las personas el contenido ofensivo, ya sea racista, sexista, homofóbico o de cualquier otro tipo. Ninguna persona debería padecerlo en Instagram. Sin embargo, combatir el maltrato es un desafío complejo y no existe una medida que podamos tomar que nos garantice que se eliminará por completo. Por ejemplo, sabemos que muchas personas de nuestra comunidad, en especial aquellas con muchos seguidores, reciben solicitudes de MD ofensivas de parte de personas que no siguen.

Dado que los mensajes directos son conversaciones privadas, no buscamos proactivamente contenido con lenguaje que incita al odio o bullying, como sí lo hacemos en otras secciones de Instagram. Por eso, presentamos esta nueva herramienta que, cuando se activa, filtra automáticamente las solicitudes de MD que contienen palabras, frases o emojis ofensivos para que no tengas que verlos. Esta herramienta se centra en las solicitudes de MD, porque es allí donde las personas suelen recibir ese tipo de contenido, a diferencia de la bandeja de entrada normal, donde reciben mensajes de amigos. Funcionará de manera similar a los filtros de comentarios, que te permiten ocultar los comentarios ofensivos y elegir qué términos no pueden usar las personas cuando hagan comentarios en tus publicaciones. Puedes activar y desactivar los filtros de comentarios y de MD desde la nueva sección específica de palabras ocultas en la configuración de privacidad.

Trabajamos junto a organizaciones líderes que combaten la discriminación y el bullying para desarrollar una lista predefinida de términos ofensivos que se filtrarán en las solicitudes de MD cuando esté activada la función. Sabemos que distintas palabras pueden ser ofensivas para distintas personas, por lo que también podrás crear una lista personalizada de palabras, frases o emojis que no quieres que aparezcan en las solicitudes de MD. Todas las solicitudes de MD que contengan estas palabras, frases o emojis, sin importar si forman parte de la lista personalizada o la predefinida, se filtrarán automáticamente y aparecerán en una carpeta específica para solicitudes ocultas. Si abres esta carpeta, el texto de los mensajes estará oculto para evitar que veas el lenguaje ofensivo, a menos que toques la opción para mostrarlo. Tendrás la opción de aceptar, eliminar o reportar la solicitud de mensaje.

Esta nueva función está pensada para protegerte contra las solicitudes de MD potencialmente ofensivas sin invadir tu privacidad. Los mensajes se filtrarán en tu dispositivo, por lo que no se enviarán a nuestros servidores por medio de esta función. Si la utilizas, no compartirás con nosotros el contenido de tus solicitudes de mensajes, a menos que las reportes.

En las próximas semanas, lanzaremos esta función en varios países, y tenemos pensado expandirla a más países en los próximos meses.

Una nueva forma de protegerte de los contactos no deseados

Ejemplo de bloqueo de varias cuentas en un teléfono móvil.

También trabajamos para que a las personas que bloqueaste les resulte más difícil volver a contactarte por medio de una cuenta nueva. Con esta función, cuando bloquees a alguien en Instagram, podrás bloquear su cuenta y, además, bloquear preventivamente todas las cuentas nuevas que esa persona pueda crear. En las próximas semanas, estará disponible para todo el mundo.

Esta función se suma a nuestras Políticas sobre acoso, que ya prohíben que las personas se pongan en contacto reiteradamente con alguien que no quiere tener ningún tipo de relación con ellas. Tampoco permitimos la reincidencia: si detectamos que una persona cuya cuenta se inhabilitó por infringir nuestras normas crea cuentas nuevas, las eliminamos.

Seguimos trabajando para combatir los comentarios ofensivos

Además de usar nuestra tecnología de detección proactiva para identificar comentarios que infrinjan nuestras normas, te brindamos varias herramientas para controlar el maltrato en tus comentarios. Si tienes una cuenta pública, tienes la opción de permitir solo los comentarios de las personas que sigues o que te siguen.

Además, comenzamos a ocultar las palabras ofensivas de tu lista manual para filtrar comentarios incluso cuando tienen errores ortográficos habituales. De esta manera, si una palabra que no quieres ver se escribe mal accidentalmente o a propósito, tampoco la verás en los comentarios.

Sabemos que aún hay mucho para hacer y estamos comprometidos a continuar con nuestra lucha contra el bullying y el maltrato online. Seguiremos trabajando con especialistas, organizaciones del sector, adolescentes, creadores y figuras públicas para comprender sus experiencias en Instagram y obtener información sobre cómo podemos mejorar nuestras políticas y productos a fin de protegerlos del maltrato online.