Nuevas herramientas para evitar la sextorsión y el abuso de la imagen íntima

Conclusiones:

• Estamos probando nuevas funciones con el objetivo de proteger a los jóvenes contra la sextorsión y el abuso de imágenes íntimas, así como para dificultar que los posibles estafadores y delincuentes encuentren a los adolescentes e interactúen con ellos.
• También estamos probando nuevas maneras de ayudar a las personas a detectar posibles estafas de sextorsión, alentarlas a reportarlas y empoderarlas para que rechacen cualquier situación que les genere incomodidad.
• Empezamos a compartir más señales sobre cuentas involucradas en sextorsión con otras empresas tecnológicas por medio de Lantern, lo que ayuda a desbaratar actividades delictivas en Internet relacionadas con este tema.

La sextorsión financiera es un delito terrible. Llevamos años colaborando estrechamente con expertos, incluidos aquellos especializados en la lucha contra estos delitos, a fin de conocer las tácticas que utilizan los estafadores para encontrar y extorsionar a sus víctimas en Internet, y así poder desarrollar métodos eficaces para detenerlos.

Hoy, compartimos un resumen de nuestro trabajo más reciente para hacer frente a estos delitos. Esto incluye nuevas herramientas que estamos probando para proteger a las personas de la sextorsión y otros tipos de abuso relacionados con imágenes íntimas. Además, buscamos dificultar al máximo que los estafadores encuentren posibles víctimas, tanto en las apps de Meta como en Internet. También estamos probando nuevas medidas para ayudar a los jóvenes a reconocer las estafas de sextorsión y protegerse de ellas.

Estas actualizaciones se suman a nuestro extenso trabajo para proteger a los jóvenes de contactos no deseados o potencialmente dañinos. De forma predeterminada, los adolescentes tienen una configuración de mensajes más estricta para que ninguna persona con la que no estén conectados pueda enviarles mensajes. Además, les proporcionamos avisos de seguridad a los adolescentes que están en contacto con posibles cuentas de estafa y les ofrecemos una opción específica para que reporten los mensajes directos que amenacen con compartir imágenes privadas. También apoyamos al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) en el desarrollo de Take It Down, una plataforma que permite a los jóvenes recuperar el control de sus imágenes íntimas y ayuda a prevenir su difusión en Internet, lo cual reduce el poder de los estafadores.

Presentación de la función de protección frente a la desnudez en los mensajes directos

Si bien la mayoría de las personas utilizan los mensajes directos para compartir lo que les gusta con sus amistades, familiares o creadores favoritos, los estafadores que se dedican a la sextorsión también pueden utilizarlos para compartir o pedir imágenes íntimas. Para hacer frente a esta situación, pronto empezaremos a probar nuestra nueva función de protección contra desnudos en los mensajes privados de Instagram, la cual difumina las imágenes que se detecten que contienen desnudos, alentando así a las personas a reflexionar antes de enviar este tipo de imágenes. El objetivo de esta función va más allá de proteger a las personas de ver desnudos no deseados en sus mensajes directos. También busca protegerlas de los estafadores que envían imágenes de desnudos para manipular a otras personas y lograr que envíen las suyas a cambio.

La función estará activada de forma predeterminada para los adolescentes menores de 18 años en todo el mundo. Por su parte, los adultos recibirán una notificación que los alentará a activarla.

Cuando la protección contra desnudos esté activada, las personas que envíen imágenes que contengan desnudos verán un mensaje que les recordará que tengan cuidado al enviar fotos delicadas y que, si cambian de opinión, pueden anular el envío de estas fotos.

Cuando alguien intente reenviar una imagen de desnudo que haya recibido, recibirá un mensaje para animarlo a reflexionar en su decisión.

Cuando alguien reciba una imagen que contenga desnudos, esta se difuminará automáticamente con una pantalla de advertencia. Esto significa que quien la reciba, tendrá la opción de decidir si verla o no. También se le mostrará a la persona un mensaje animándola a no sentirse presionada para responder, con la opción de bloquear al emisor y reportar el chat.

Al enviar o recibir estas imágenes, se proporcionará a las personas consejos de seguridad elaborados con el asesoramiento de expertos, sobre los riesgos potenciales que conllevan. Estos consejos incluyen recordatorios sobre la posibilidad de que las personas realicen capturas de pantalla o reenvíen imágenes sin tu conocimiento, la idea de que tu relación con la persona puede cambiar en el futuro y la importancia de revisar cuidadosamente los perfiles por si la persona no es quien dice ser. Además, incluyen enlaces a una serie de recursos, como el centro de seguridad de Meta, las líneas telefónicas de ayuda, StopNCII.org para mayores de 18 años y Take It Down para menores.

La protección contra desnudos utiliza el aprendizaje automático en el dispositivo para analizar si la imagen enviada en un mensaje directo en Instagram contiene desnudos. Como las imágenes se analizan en el propio dispositivo, la protección contra desnudos funcionará en chats cifrados de extremo a extremo, con lo cual Meta no tendrá acceso a estas imágenes, a menos que alguien decida reportárnoslas.

Evitar que los posibles estafadores conecten con los adolescentes

Tomamos medidas contundentes cuando sabemos de personas que se dedican a la sextorsión: eliminamos su cuenta, tomamos medidas para evitar que creen otras nuevas y, en su caso, las denunciamos al NCMEC y a las autoridades competentes. Nuestros equipos de expertos también trabajan para investigar y desarticular las redes de estos delincuentes, desactivar sus cuentas y denunciarlas al NCMEC y a las autoridades competentes. Esto ha implicado la desarticulación de varias redes solo en el último año.

Actualmente, también estamos en proceso de desarrollar una tecnología para ayudar a identificar las cuentas que podrían estar implicadas en estafas de sextorsión. Esta tecnología se basará en una serie de señales que podrían indicar un comportamiento asociado con la sextorsión. Si bien estas señales no son pruebas concluyentes de que una cuenta haya infringido nuestras normas, tomamos medidas de precaución para evitar que estas cuentas encuentren cuentas de adolescentes e interactúen con ellas. Estas medidas complementan el trabajo que ya realizamos para evitar que otras cuentas potencialmente sospechosas encuentren a adolescentes e interactúen con ellos.

Una de las medidas que estamos tomando es dificultar aún más que las posibles cuentas que se dedican a la sextorsión envíen mensajes o interactúen con otras personas. A partir de ahora, todas las solicitudes de mensajes enviadas por cuentas relacionadas con la sextorsión se dirigirán a la carpeta de solicitudes ocultas de la persona destinataria. Esto significa que el destinatario no recibirá ninguna notificación del mensaje y no tendrá que verlo en absoluto. Para que ya estén en conversaciones con posibles cuentas de estafa o sextorsión, mostramos avisos de seguridad que los alientan a reportar las amenazas de compartir imágenes privadas y que recuerdan que siempre se puede rechazar cualquier situación que pueda generar incomodidad.

En el caso de los adolescentes, vamos aún más lejos. Ya impedimos que los adultos inicien conversaciones por mensajes directos con adolescentes con los que no están conectados. Además, en enero anunciamos opciones de configuración de mensajes más estrictas predeterminadas para los adolescentes menores de 16 años (menores de 18 en algunos países), lo que significa que solo pueden recibir mensajes de personas con las que ya están conectados, sea cual sea la edad de la persona que los envía. Ahora, no se mostrará el botón "Mensaje" del perfil de un adolescente a las cuentas que puedan estar involucradas en sextorsión, aunque ya estén conectadas. También estamos probando la posibilidad de ocultar a los adolescentes de estas cuentas en las listas de seguidores, seguidos y Me gusta de las personas, y de dificultar que encuentren cuentas de adolescentes en los resultados de las búsquedas.

Nuevos recursos para las personas que puedan haber sido contactadas por estafadores

Estamos probando nuevos mensajes emergentes para las personas que hayan interactuado con una cuenta que hayamos eliminado por sextorsión. El mensaje dirigirá a las personas a nuestros recursos avalados por expertos, entre los que se incluyen el centro "Detengamos la sextorsión", líneas de ayuda, la opción de contactar con un amigo, StopNCII.org para mayores de 18 años y Take It Down para menores de 18.

También estamos agregando nuevas líneas de ayuda sobre seguridad infantil de todo el mundo a nuestros flujos de reporte en la app. Esto significa que cuando los adolescentes reporten problemas relacionados (como desnudos, amenazas de compartir imágenes privadas o explotación sexual), los dirigiremos a las líneas de ayuda sobre seguridad infantil locales donde estén disponibles.

Lucha contra las estafas de sextorsión en Internet

En noviembre, anunciamos que éramos miembros fundadores de Lantern, un programa dirigido por la Tech Coalition que permite a las empresas tecnológicas compartir señales sobre cuentas y comportamientos que infringen sus políticas de seguridad infantil.

Esta cooperación en el sector es fundamental, porque los depredadores no solo actúan en una plataforma, y lo mismo ocurre con los estafadores que practican la sextorsión. Estos delincuentes atacan a sus víctimas en las distintas apps que utilizan, y a menudo trasladan sus conversaciones de una app a otra. Por este motivo, empezamos a compartir con Lantern más señales específicas de sextorsión, para seguir avanzando en esta valiosa cooperación e intentar poner fin a las estafas de sextorsión no solo en plataformas concretas, sino en todo Internet.