9 de novembro de 2020
Faremos tudo o que pudermos para manter as pessoas seguras no Instagram. Trabalhamos com especialistas para entender melhor as questões profundamente complexas de saúde mental, suicídio e automutilação, e aprender como apoiar da melhor forma as pessoas que são vulneráveis. No Instagram, todos nós levamos muito a sério essas questões. Fizemos progresso nos últimos anos e hoje estamos lançando mais tecnologia na Europa para ajudar em nossos esforços. Mas nosso trabalho aqui nunca termina. Buscamos constantemente maneiras de fazer mais.
Reconhecemos que essas são questões profundamente pessoais para as pessoas afetadas. São também questões complicadas e estão sempre em evolução. Por isso, continuamos a atualizar nossas políticas e nossos produtos para que possamos oferecer o melhor suporte à nossa comunidade. Nunca permitimos a promoção nem o encorajamento de suicídio ou autoagressão no Instagram. No ano passado, atualizamos nossas políticas para remover todo o conteúdo explícito envolvendo esse tipo de conteúdo. Também ampliamos nossas políticas para proibir representações fictícias, como desenhos, memes ou outras imagens, que mostrem materiais ou métodos associados a suicídio ou autoagressão.
Não é suficiente abordar essas questões difíceis apenas por meio de políticas e produtos. Também acreditamos que é importante fornecer ajuda e apoio às pessoas que estão enfrentando momentos difíceis. Oferecemos suporte às pessoas que procuram contas ou hashtags relacionadas a suicídio e autoagressão e as encaminhamos a organizações locais que podem ajudá-las. Também colaboramos com a Samaritans, uma instituição beneficente que trabalha com prevenção do suicídio. Eles desenvolveram diretrizes para o setor, que foram projetadas para ajudar plataformas como a nossa a encontrar o importante equilíbrio entre lidar com conteúdo prejudicial e fornecer fontes de apoio para quem precisa de ajuda.
Usamos uma tecnologia que nos ajudar a encontrar e remover proativamente conteúdo mais prejudicial sobre suicídio e autoagressão. Nossa tecnologia encontra publicações que possam conter conteúdo sobre suicídio e autoagressão e as envia a revisores humanos para tomarem a decisão final e as medidas necessárias. Essas medidas incluem remover o conteúdo, conectar a pessoa que o publicou a organizações locais que oferecem ajuda ou, nos casos mais graves, ligar para serviços de emergência. Entre abril e junho deste ano, mais de 90% do conteúdo sobre suicídio e autoagressão sobre o qual tomamos alguma medida foi encontrado por nossa própria tecnologia antes que alguém fizesse uma denúncia. No entanto, nosso objetivo é fazer com que esse número seja o mais próximo possível de 100%.
Até agora, só pudemos usar essa tecnologia para encontrar conteúdo sobre suicídio e autoagressão fora da União Europeia, o que dificultava encontrar esse tipo de conteúdo de forma proativa e enviar ajuda às pessoas. Tenho o prazer de compartilhar que estamos lançando parte dessa tecnologia na UE, que funcionará tanto no Facebook e quanto no Instagram. Agora, podemos procurar publicações que provavelmente violam nossas regras sobre suicídio e autoagressão e torná-las menos visíveis, removendo-as automaticamente de locais como Explorar. E quando nossa tecnologia detecta uma publicação que viola nossas regras, podemos removê-la automaticamente.
Esse é um passo importante para proteção de mais pessoas na UE. Mas queremos fazer muito mais. O próximo passo é usar nossa tecnologia não apenas para localizar conteúdo e torná-lo menos visível, mas também para enviá-lo aos nossos revisores humanos e conseguir ajuda para as pessoas que precisam, como fazemos em qualquer lugar do mundo. O fato de não termos essa medida implementada na UE torna mais difícil conectar as pessoas a organizações locais e serviços de emergência. Por exemplo, nos EUA, entre agosto e outubro, mais de 80% das contas encaminhadas a organizações locais e serviços de emergência foram detectadas pela nossa tecnologia proativa. Atualmente, estamos conversando com reguladores e governos sobre a melhor forma de levar essa tecnologia para a UE, respeitando as considerações de privacidade. Esperamos encontrar o equilíbrio certo para que possamos fazer mais. Essas questões são muito importantes para paramos por aqui.
Linha do tempo: etapas que tomamos para lidar com o conteúdo sobre autoagressão e suicídio no Instagram
Os resultados
Acreditamos que a aplicação de nossas políticas e medidas contra conteúdo prejudicial é nossa responsabilidade. Nossa comunidade deve sentir que pode confiar em nosso trabalho. É por isso que publicamos regularmente relatórios de aplicação dos Padrões da Comunidade. Neles, compartilhamos dados globais sobre a quantidade de conteúdo que viola nossos padrões sobre o qual estamos tomando medidas, além da porcentagem desse conteúdo que encontramos antes de ser denunciado. A linha do tempo a seguir descreve o progresso que fizemos no combate ao conteúdo relacionado com suicídio e autoagressão no Instagram, conforme mostrado por meio destes relatórios.
ARTIGOS RELACIONADOS