Novas ferramentas para ajudar a proteger contra extorsão sexual e abuso de imagens íntimas

Resumo:

• Estamos testando novos recursos para ajudar a proteger jovens da extorsão sexual e do abuso de imagens íntimas, e para tornar mais difícil para potenciais golpistas e criminosos encontrarem e interagirem com adolescentes.
• Também estamos testando novas formas de ajudar as pessoas a identificar possíveis golpes de extorsão sexual, incentivá-las a denunciar e capacitá-las a dizer não para qualquer coisa que as faça sentir desconfortáveis.
• Começamos a compartilhar mais sinais sobre contas que fazem extorsão sexual para outras empresas de tecnologia por meio da Lantern, ajudando a interromper essa atividade criminosa na internet.

extorsão sexual financeira é um crime horrível. Passamos anos trabalhando com especialistas, incluindo aqueles experientes no combate a esses crimes, para entender as táticas que os golpistas usam para encontrar e extorquir vítimas online. Nosso objetivo era desenvolver formas eficazes de ajudar a detê-los.

Hoje, estamos compartilhando uma visão geral do nosso trabalho mais recente para combater esses crimes. Isso inclui novas ferramentas que estamos testando para ajudar a proteger as pessoas contra a extorsão sexual e outras formas de abuso de imagens íntimas, e para tornar o mais difícil possível para os golpistas encontrarem alvos em potencial nos apps da Meta e na internet em geral. Também estamos testando novas medidas para apoiar os jovens a reconhecerem e se protegerem de golpes de extorsão sexual.

Essas atualizações se baseiam no nosso trabalho de longa data para ajudar a proteger os jovens de contatos indesejados ou potencialmente prejudiciais. Nosso padrão para adolescentes são configurações de mensagens mais rígidas para que eles não recebam mensagens de ninguém a quem ainda não estejam conectados. Além disso, mostramos avisos de segurança para adolescentes que já estão em contato com potenciais contas golpistas e oferecemos uma opção exclusiva para as pessoas denunciarem DMs que estejam ameaçando compartilhar imagens privadas. Também apoiamos o National Center for Missing and Exploited Children (NCMEC) no desenvolvimento da Take It Down, uma plataforma que permite que os jovens retomem o controle das suas imagens íntimas e ajuda a evitar que elas sejam compartilhadas online, tirando o poder dos golpistas.

Apresentamos a proteção contra nudez em DMs

Enquanto a grande maioria das pessoas usa as DMs para compartilhar seus interesses com os amigos, familiares ou criadores de conteúdo favoritos, os golpistas de extorsão sexual também podem usar as mensagens privadas para compartilhar ou pedir imagens íntimas. Para ajudar a combater isso, em breve começaremos a testar nosso novo recurso de proteção contra nudez nas DMs do Instagram. Ele desfoca as imagens detectadas como contendo nudez e incentiva as pessoas a pensar duas vezes antes de enviá-las. Esse recurso foi criado não apenas para proteger as pessoas de verem nudez indesejada nas suas DMs, mas também para protegê-las de golpistas que podem enviar imagens de nudez para enganar as pessoas para que enviem suas próprias imagens em troca.

A proteção contra nudez será ativada por padrão para adolescentes com menos de 18 anos globalmente, e mostraremos uma notificação para adultos incentivando-os a ativá-la.

Quando a proteção contra nudez estiver ativada, as pessoas que enviarem imagens que contenham nudez verão uma mensagem lembrando-as de terem cuidado ao enviar fotos sensíveis e de que podem cancelar o envio dessas fotos se mudarem de ideia.

Qualquer pessoa que tentar encaminhar uma imagem de nudez que recebeu verá uma mensagem incentivando a reconsiderar.

Quando alguém receber uma imagem que contenha nudez, ela será automaticamente desfocada sob uma tela de aviso. Isso significa que o destinatário não será confrontado com uma imagem de nudez e poderá escolher se deseja ou não vê-la. Também mostraremos uma mensagem que incentiva a pessoa a não se sentir pressionada para responder, com a opção de bloquear o remetente e denunciar o bate-papo.

Ao enviar ou receber essas imagens, as pessoas serão direcionadas para dicas de segurança, desenvolvidas com a orientação de especialistas, sobre os possíveis riscos envolvidos. Essas dicas incluem lembretes de que as pessoas podem fazer a captura de tela ou encaminhar imagens sem o seu conhecimento, de que seu relacionamento com a pessoa pode mudar no futuro e de que você deve analisar cuidadosamente os perfis caso eles não sejam de quem dizem ser. Também fornecem o link de uma variedade de recursos, incluindo a Central de Segurança da Meta, linhas de apoio, o StopNCII.org para pessoas maiores de 18 anos e a plataforma Take It Down para os menores de 18 anos.

A proteção contra nudez usa o aprendizado de máquina no dispositivo para analisar se uma imagem enviada em uma DM no Instagram contém nudez. Como as imagens são analisadas no próprio dispositivo, a proteção contra nudez funciona em bate-papos criptografados de ponta a ponta, nos quais a Meta não tem acesso a essas imagens, a menos que alguém decida denunciá-las para nós.

Evitando que possíveis golpistas entrem em contato com adolescentes

Tomamos medidas severas quando identificamos pessoas que se envolvem em extorsão sexual: removemos a conta delas, tomamos medidas para impedir que criem outras contas e, quando apropriado, as denunciamos ao NCMEC e à polícia. Nossas equipes de especialistas também investigam e interrompem as redes desses criminosos, desativam as contas deles e os denunciam ao NCMEC e à polícia, incluindo várias redes só no último ano.

Agora também estamos desenvolvendo uma tecnologia para ajudar a identificar onde as contas podem estar envolvidas em golpes de extorsão sexual, com base em vários sinais que podem indicar um comportamento de extorsão sexual. Embora esses sinais não sejam necessariamente evidências de que uma conta violou nossas regras, estamos tomando medidas de precaução para ajudar a impedir que essas contas encontrem e interajam com contas de adolescentes. Isso se baseia no trabalho que já fazemos para evitar que outras contas potencialmente suspeitas encontrem e interajam com adolescentes.

Uma forma de fazermos isso é tornar ainda mais difícil para potenciais contas de extorsão sexual enviar mensagens ou interagir com pessoas. Agora, qualquer solicitação de mensagem que potenciais contas de extorsão sexual tentem enviar irá diretamente para a pasta de solicitações ocultas do destinatário. Isso significa que ele não será avisado sobre a mensagem e nunca precisará vê-la. Para as pessoas que já estão conversando com potenciais contas de golpe ou extorsão sexual, mostramos avisos de segurança incentivando-as a denunciar qualquer ameaça de compartilhamento de suas imagens privadas e lembrando-as de que podem dizer não para qualquer coisa que as faça se sentir desconfortáveis.

Para os adolescentes, vamos ainda mais longe. Já impedimos que adultos iniciem bate-papos por DM com adolescentes aos quais não são conectados. Em janeiro, anunciamos padrões de mensagens mais rígidos para adolescentes com menos de 16 anos (ou menos de 18 em alguns países). Isso significa que eles só podem receber mensagens de pessoas às quais já estão conectados, independentemente da idade do remetente. Agora, não mostraremos o botão "Enviar mensagem" no perfil de um adolescente a potenciais contas de extorsão sexual, mesmo que já estejam conectadas a ele. Também estamos testando ocultar adolescentes dessas contas nas listas de seguidores, seguindo e curtidas das pessoas, bem como dificultar a descoberta de contas de adolescentes nos resultados de pesquisa.

Novos recursos para pessoas que possam ter sido abordadas por golpistas

Estamos testando novas mensagens pop-up para pessoas que possam ter interagido com uma conta que removemos devido a extorsão sexual. A mensagem as direcionará para nossos recursos endossados por especialistas, incluindo nossa Central Chega de extorsão sexual, linhas de apoio, a opção de entrar em contato com um amigo, o StopNCII.org para pessoas com mais de 18 anos e a plataforma Take It Down para menores de 18 anos.

Também estamos adicionando novas linhas de apoio de segurança infantil do mundo todo aos nossos fluxos de denúncia no app. Isso significa que, quando adolescentes denunciarem problemas relevantes (como nudez, ameaças de compartilhar imagens privadas, exploração sexual ou propostas de cunho sexual), vamos direcioná-los a linhas de apoio locais de segurança infantil, quando disponíveis.

Combatendo golpes de extorsão sexual na internet

Em novembro, anunciamos que somos membros fundadores do Lantern, um programa administrado pela Tech Coalition, que permite que empresas de tecnologia compartilhem sinais sobre contas e comportamentos que violam suas políticas de segurança infantil.

Esta cooperação entre o setor é fundamental, porque os predadores não se limitam a apenas uma plataforma, e o mesmo acontece com os golpistas de extorsão sexual. Esses criminosos atacam vítimas nos diferentes apps que usam, muitas vezes movendo a conversa de um app para outro. Por isso, estamos compartilhando mais sinais específicos de extorsão sexual com o Lantern, a fim de desenvolver essa importante cooperação e tentar impedir os golpes de extorsão sexual não apenas em plataformas individuais, mas em toda a internet.