Um passo importante para melhorar a proteção da nossa comunidade na Europa

November 10, 2020

Faremos tudo o que pudermos para manter as pessoas seguras no Instagram. Trabalhamos com especialistas para entender melhor as questões profundamente complexas de saúde mental, suicídio e automutilação, e aprender como apoiar da melhor forma as pessoas que são vulneráveis. Todos nós no Instagram levamos muito a sério essas questões. Fizemos progresso nos últimos anos e hoje estamos lançando mais tecnologia na Europa para ajudar em nossos esforços. Mas nosso trabalho aqui nunca termina. Buscamos constantemente maneiras de fazer mais.


Reconhecemos que essas são questões profundamente pessoais para as pessoas afetadas. São também questões complicadas e estão sempre em evolução. Por isso, continuamos a atualizar nossas políticas e nossos produtos para que possamos oferecer o melhor suporte à nossa comunidade. Nunca permitimos a promoção nem o encorajamento de suicídio ou autoagressão no Instagram. No ano passado, atualizamos nossas políticas para remover todo o conteúdo explícito envolvendo esse tipo de conteúdo. Também ampliamos nossas políticas para proibir representações fictícias, como desenhos, memes ou outras imagens, que mostrem materiais ou métodos associados a suicídio ou autoagressão.


Não é suficiente abordar essas questões difíceis apenas por meio de políticas e produtos. Também acreditamos que é importante fornecer ajuda e apoio às pessoas que estão enfrentando momentos difíceis. Oferecemos suporte às pessoas que procuram contas ou hashtags relacionadas a suicídio e autoagressão e as encaminhamos a organizações locais que podem ajudá-las. Também colaboramos com a Samaritans, uma instituição beneficente que trabalha com prevenção do suicídio. Eles desenvolveram diretrizes para o setor, que foram projetadas para ajudar plataformas como a nossa a encontrar o importante equilíbrio entre lidar com conteúdo prejudicial e fornecer fontes de apoio para quem precisa de ajuda.


Usamos uma tecnologia que nos ajudar a encontrar e remover proativamente conteúdo mais prejudicial sobre suicídio e autoagressão. Nossa tecnologia encontra publicações que possam conter conteúdo sobre suicídio e autoagressão e as envia a revisores humanos para tomarem a decisão final e as ações necessárias. Essas ações incluem remover o conteúdo, conectar a pessoa que o publicou a organizações locais que oferecem ajuda ou, nos casos mais graves, ligar para serviços de emergência. Entre abril e junho deste ano, mais de 90% do conteúdo sobre suicídio e autoagressão no qual realizamos alguma ação foi encontrado por nossa própria tecnologia antes que alguém fizesse uma denúncia. No entanto, nosso objetivo é fazer com que esse número seja o mais próximo possível de 100%.


Até agora, só pudemos usar essa tecnologia para encontrar conteúdo sobre suicídio e autoagressão fora da União Europeia, o que dificultava encontrar esse tipo de conteúdo de forma proativa e enviar ajuda às pessoas. Tenho o prazer de compartilhar que estamos lançando parte dessa tecnologia na UE, que funcionará tanto no Facebook e quanto no Instagram. Agora, podemos procurar publicações que provavelmente violam nossas regras sobre suicídio e autoagressão e torná-las menos visíveis, removendo-as automaticamente de locais como Explorar. E quando nossa tecnologia detecta uma publicação que viola nossas regras, podemos removê-la automaticamente.


Esse é um passo importante para proteção de mais pessoas na UE. Mas queremos fazer muito mais. O próximo passo é usar nossa tecnologia não apenas para localizar conteúdo e torná-lo menos visível, mas também para enviá-lo aos nossos revisores humanos e conseguir ajuda para as pessoas que precisam, como fazemos em qualquer lugar do mundo. O fato de não termos essa peça implementada na UE torna mais difícil removermos mais conteúdos nocivos e conectar as pessoas a organizações locais e serviços de emergência. Atualmente, estamos conversando com reguladores e governos sobre a melhor forma de trazer essa tecnologia para a UE, respeitando as considerações de privacidade. Esperamos encontrar o equilíbrio certo para que possamos fazer mais. Essas questões são muito importantes para paramos por aqui.


Linha do tempo: etapas que tomamos para lidar com o conteúdo sobre autoagressão e suicídio no Instagram

  • Dezembro de 2016: lançado o recurso de denúncias anônimas para publicações sobre autoagressão. Começamos a conectar pessoas a organizações que podem fornecer ajuda.
  • Março de 2017: ferramentas de prevenção contra o suicídio foram integradas ao Facebook Live, tornando mais fácil para amigos e familiares denunciarem um conteúdo e alcançarem as pessoas em tempo real.
  • Novembro de 2017: implementada uma tecnologia fora dos Estados Unidos (exceto na Europa) para ajudar a identificar quando alguém pode estar expressando pensamentos suicidas, incluindo no Facebook Live. Começamos a usar a inteligência artificial para priorizar denúncias, enviar ajuda às pessoas e alertar os serviços de emergência o mais rápido possível.
  • Setembro de 2018: criado um Guia para Pais, voltado a pais, mães e responsáveis de adolescentes que usam o Instagram.
  • Fevereiro de 2019: começamos a organizar consultas regulares com especialistas, do mundo todo, em segurança e prevenção contra suicídio para discutir a complexidade envolvendo suicídio e autoagressão, além de ouvir feedbacks constantes sobre nossa abordagem.
  • Fevereiro de 2019: expandimos nossas políticas para banir todo conteúdo explícito sobre suicídio e autoagressão, mesmo se anteriormente fosse permitido como admissão. Também dificultamos a localização desse conteúdo nas pesquisas, bloqueamos hashtags relacionadas e aplicamos telas de sensibilidade a todo o conteúdo em contexto de admissão, enviando recursos para mais pessoas que publiquem ou pesquisem esse tipo de conteúdo.
  • Outubro de 2019: expandimos nossas políticas para banir conteúdo fictício de autoagressão ou suicídio, incluindo memes e ilustrações, além de conteúdo que contenha métodos ou materiais sobre esses tópicos.
  • Setembro de 2020: iniciamos uma colaboração com a Samaritans no lançamento das novas diretrizes sobre como gerenciar com segurança conteúdo online relacionado a autoagressão e suicídio.
  • Outubro de 2020: adicionada uma mensagem na parte superior de todos os resultados de pesquisas sobre termos relacionados a suicídio ou autoagressão. A mensagem oferece suporte e direciona as pessoas para organizações locais que podem ajudá-las.
  • Novembro de 2020: implementada a tecnologia na UE para buscar proativamente conteúdos nocivos sobre suicídio e autoagressão e torná-los menos visíveis.

Os resultados


Acreditamos que a aplicação de nossas políticas e medidas contra conteúdo prejudicial é nossa responsabilidade. Nossa comunidade deve sentir que pode confiar em nosso trabalho. É por isso que publicamos regularmente relatórios de aplicação dos Padrões da Comunidade para compartilhar dados globais sobre a quantidade de conteúdo que viola nossos padrões e a porcentagem desse conteúdo que encontramos antes de ser denunciado. A linha do tempo a seguir descreve o progresso que fizemos no combate ao conteúdo relacionado com suicídio e autoagressão no Instagram, conforme mostrado por meio destes relatórios.

ARTIGOS RELACIONADOS

Confira mais avisos sobre Instagram