Um passo importante para melhorar a proteção da nossa comunidade na Europa

Faremos tudo o que pudermos para manter as pessoas seguras no Instagram. Trabalhamos com especialistas para entender melhor as questões profundamente complexas de saúde mental, suicídio e automutilação, e aprender como apoiar da melhor forma as pessoas que são vulneráveis. No Instagram, todos nós levamos muito a sério essas questões. Fizemos progresso nos últimos anos e hoje estamos lançando mais tecnologia na Europa para ajudar em nossos esforços. Mas nosso trabalho aqui nunca termina. Buscamos constantemente maneiras de fazer mais.

Reconhecemos que essas são questões profundamente pessoais para as pessoas afetadas. São também questões complicadas e estão sempre em evolução. Por isso, continuamos a atualizar nossas políticas e nossos produtos para que possamos oferecer o melhor suporte à nossa comunidade. Nunca permitimos a promoção nem o encorajamento de suicídio ou autoagressão no Instagram. No ano passado, atualizamos nossas políticas para remover todo o conteúdo explícito envolvendo esse tipo de conteúdo. Também ampliamos nossas políticas para proibir representações fictícias, como desenhos, memes ou outras imagens, que mostrem materiais ou métodos associados a suicídio ou autoagressão.

Não é suficiente abordar essas questões difíceis apenas por meio de políticas e produtos. Também acreditamos que é importante fornecer ajuda e apoio às pessoas que estão enfrentando momentos difíceis. Oferecemos suporte às pessoas que procuram contas ou hashtags relacionadas a suicídio e autoagressão e as encaminhamos a organizações locais que podem ajudá-las. Também colaboramos com a Samaritans, uma instituição beneficente que trabalha com prevenção do suicídio. Eles desenvolveram diretrizes para o setor, que foram projetadas para ajudar plataformas como a nossa a encontrar o importante equilíbrio entre lidar com conteúdo prejudicial e fornecer fontes de apoio para quem precisa de ajuda.

Usamos uma tecnologia que nos ajudar a encontrar e remover proativamente conteúdo mais prejudicial sobre suicídio e autoagressão. Nossa tecnologia encontra publicações que possam conter conteúdo sobre suicídio e autoagressão e as envia a revisores humanos para tomarem a decisão final e as medidas necessárias. Essas medidas incluem remover o conteúdo, conectar a pessoa que o publicou a organizações locais que oferecem ajuda ou, nos casos mais graves, ligar para serviços de emergência. Entre abril e junho deste ano, mais de 90% do conteúdo sobre suicídio e autoagressão sobre o qual tomamos alguma medida foi encontrado por nossa própria tecnologia antes que alguém fizesse uma denúncia. No entanto, nosso objetivo é fazer com que esse número seja o mais próximo possível de 100%.

Até agora, só pudemos usar essa tecnologia para encontrar conteúdo sobre suicídio e autoagressão fora da União Europeia, o que dificultava encontrar esse tipo de conteúdo de forma proativa e enviar ajuda às pessoas. Tenho o prazer de compartilhar que estamos lançando parte dessa tecnologia na UE, que funcionará tanto no Facebook e quanto no Instagram. Agora, podemos procurar publicações que provavelmente violam nossas regras sobre suicídio e autoagressão e torná-las menos visíveis, removendo-as automaticamente de locais como Explorar. E quando nossa tecnologia detecta uma publicação que viola nossas regras, podemos removê-la automaticamente.

Esse é um passo importante para proteção de mais pessoas na UE. Mas queremos fazer muito mais. O próximo passo é usar nossa tecnologia não apenas para localizar conteúdo e torná-lo menos visível, mas também para enviá-lo aos nossos revisores humanos e conseguir ajuda para as pessoas que precisam, como fazemos em qualquer lugar do mundo. O fato de não termos essa medida implementada na UE torna mais difícil conectar as pessoas a organizações locais e serviços de emergência. Por exemplo, nos EUA, entre agosto e outubro, mais de 80% das contas encaminhadas a organizações locais e serviços de emergência foram detectadas pela nossa tecnologia proativa. Atualmente, estamos conversando com reguladores e governos sobre a melhor forma de levar essa tecnologia para a UE, respeitando as considerações de privacidade. Esperamos encontrar o equilíbrio certo para que possamos fazer mais. Essas questões são muito importantes para paramos por aqui.

Linha do tempo: etapas que tomamos para lidar com o conteúdo sobre autoagressão e suicídio no Instagram

• Dezembro de 2016: lançado o recurso de denúncias anônimas para publicações sobre autoagressão. Começamos a conectar pessoas a organizações que podem fornecer ajuda.
• Março de 2017: ferramentas de prevenção contra o suicídio foram integradas ao Facebook Live, tornando mais fácil para amigos e familiares denunciarem um conteúdo e alcançarem as pessoas em tempo real.
• Novembro de 2017: implementada uma tecnologia fora dos Estados Unidos (exceto na Europa) para ajudar a identificar quando alguém pode estar expressando pensamentos suicidas, incluindo no Facebook Live. Começamos a usar a inteligência artificial para priorizar denúncias, enviar ajuda às pessoas e alertar os serviços de emergência o mais rápido possível.
• Setembro de 2018: criado um Guia para Pais, voltado a pais, mães e responsáveis de adolescentes que usam o Instagram.
• Fevereiro de 2019: começamos a organizar consultas regulares com especialistas, do mundo todo, em segurança e prevenção contra suicídio para discutir a complexidade envolvendo suicídio e autoagressão, além de ouvir feedbacks constantes sobre nossa abordagem.
• Fevereiro de 2019: expandimos nossas políticas para banir todo conteúdo explícito sobre suicídio e autoagressão, mesmo se anteriormente fosse permitido como admissão. Também dificultamos a localização desse conteúdo nas pesquisas, bloqueamos hashtags relacionadas e aplicamos telas de sensibilidade a todo o conteúdo em contexto de admissão, enviando recursos para mais pessoas que publiquem ou pesquisem esse tipo de conteúdo.
• Outubro de 2019: expandimos nossas políticas para banir conteúdo fictício de autoagressão ou suicídio, incluindo memes e ilustrações, além de conteúdo que contenha métodos ou materiais sobre esses tópicos.
• Setembro de 2020: iniciamos uma colaboração com a Samaritans no lançamento das novas diretrizes sobre como gerenciar com segurança conteúdo online relacionado a autoagressão e suicídio.
• Outubro de 2020: adicionada uma mensagem na parte superior de todos os resultados de pesquisas sobre termos relacionados a suicídio ou autoagressão. A mensagem oferece suporte e direciona as pessoas para organizações locais que podem ajudá-las.
• Novembro de 2020: implementada a tecnologia na UE para buscar proativamente conteúdos nocivos sobre suicídio e autoagressão e torná-los menos visíveis.

Os resultados

Acreditamos que a aplicação de nossas políticas e medidas contra conteúdo prejudicial é nossa responsabilidade. Nossa comunidade deve sentir que pode confiar em nosso trabalho. É por isso que publicamos regularmente relatórios de aplicação dos Padrões da Comunidade. Neles, compartilhamos dados globais sobre a quantidade de conteúdo que viola nossos padrões sobre o qual estamos tomando medidas, além da porcentagem desse conteúdo que encontramos antes de ser denunciado. A linha do tempo a seguir descreve o progresso que fizemos no combate ao conteúdo relacionado com suicídio e autoagressão no Instagram, conforme mostrado por meio destes relatórios.

• Relatório de aplicação dos Padrões da Comunidade do 2º trimestre de 2019: tomamos medidas sobre 835 mil itens de conteúdo sobre suicídio e autoagressão, quase 78% encontrados de forma proativa.
• Relatório de aplicação dos Padrões da Comunidade do 3º trimestre de 2019: tomamos medidas sobre 845 mil itens de conteúdo sobre suicídio e autoagressão, mais de 79% encontrados de forma proativa.
• Relatório de aplicação dos Padrões da Comunidade do 4º trimestre de 2019: tomamos medidas sobre 897 mil itens de conteúdo sobre suicídio e autoagressão, mais de 83% encontrados de forma proativa.
• Relatório de aplicação dos Padrões da Comunidade do 1º trimestre de 2020: tomamos medidas sobre 1,3 milhão de itens de conteúdo sobre suicídio e autoagressão, quase 90% encontrados de forma proativa.
• Relatório de aplicação dos Padrões da Comunidade do 2º trimestre de 2020: tomamos medidas sobre 275 mil itens de conteúdo sobre suicídio e autoagressão, quase 94% encontrados de forma proativa. Nossos números mostrando os resultados da aplicação dos padrões foram menores durante esse período, como resultado do impacto da COVID-19 na análise de conteúdo.
• Relatório de aplicação dos Padrões da Comunidade do 3º trimestre de 2020: tomamos medidas sobre 1,3 milhão de itens de conteúdo sobre suicídio e autoagressão, mais de 95% encontrados de forma proativa. Embora a COVID-19 continue afetando a análise de conteúdo, os números que mostram os resultados da aplicação dos padrões voltaram aos níveis apresentados antes da pandemia, graças às melhorias na IA.