Tomando mais medidas para manter a segurança das pessoas que usam o Instagram

By Adam Mosseri, Head of Instagram

27 de outubro de 2019

Nada é mais importante para mim do que a proteção das pessoas que usam o Instagram, particularmente as mais vulneráveis. Suicídio e autolesão são tópicos difíceis e complexos com os quais as pessoas se importam profundamente, e com razão. Esses temas são complicados e há muitas opiniões sobre como abordá-los da melhor maneira, mas tanto quanto complicados, eles são importantes, e eu, como pai, compreendo perfeitamente.

Em primeiro lugar, eu me solidarizo com qualquer pessoa que esteja lidando com questões difíceis como essas, assim como com amigos e familiares. Mal consigo imaginar o que essas pessoas possam estar passando. Também reconheço que simplesmente me solidarizar com as pessoas não é suficiente. Nós no Instagram temos o dever de fazer tudo o que está ao nosso alcance para manter as pessoas seguras, especialmente aqueles que podem estar em risco de cometer suicídio ou autolesão.

Há duas verdades em relação às comunidades online, e elas estão em conflito uma com a outra. Primeiro, a trágica realidade que alguns jovens são influenciados de uma maneira negativa pelo que veem online e, como resultado, podem ferir a si mesmos. Esse é um risco real.

Mas, ao mesmo tempo, há muitos jovens que estão online para obter apoio e enfrentar dificuldades, como aqueles que compartilham cicatrizes curadas ou falam sobre a recuperação de algum distúrbio alimentar. Muitas vezes, essas redes de apoio online são a única maneira de encontrar outras pessoas que compartilharam as experiências delas.

Com base no conselho de especialistas acadêmicos e de organizações de saúde mental, como os Samaritanos no Reino Unido e a Linha Nacional de Prevenção ao Suicídio nos Estados Unidos, visamos alcançar o difícil equilíbrio entre permitir que as pessoas compartilhem experiências de saúde mental e, ao mesmo tempo, proteger outras pessoas da exposição a conteúdos potencialmente prejudiciais.

Entendemos que o mesmo conteúdo pode ser útil para alguns e prejudicial para outros. Em minhas conversas com jovens que lutaram contra esses problemas, ouvi que a mesma imagem pode ser útil para alguém em um dia, mas perturbadora em outro. É por isso que não permitimos que as pessoas compartilhem conteúdo que estimule ou promova a autoagressão ou o suicídio. Nunca permitimos isso.

No início deste ano, reforçamos nossa abordagem de conteúdo relacionado a suicídio e autolesão. Em fevereiro, proibimos imagens explícitas de autolesão, desenvolvemos uma nova tecnologia para encontrar esse tipo de conteúdo e tomar as medidas apropriadas, além de trabalharmos para garantir que esse tipo de conteúdo e as contas que o compartilham não sejam recomendados.

Como resultado, comparado com antes, conseguimos tomar duas vezes mais medidas sobre tal conteúdo. Nos três meses subsequentes à nossa alteração de política, telas de sensibilidade foram adicionadas, removidas ou tiveram a visibilidade reduzida em mais de 834 mil conteúdos. Conseguimos encontrar mais de 77% desse conteúdo antes de ele ser denunciado a nós. Isso é um progresso, mas sabemos que o trabalho aqui nunca termina.

No mês passado, expandimos nossas políticas para proibir mais tipos de conteúdo de autolesão e suicídio. Não permitiremos mais representações fictícias de autolesão ou suicídio no Instagram, como desenhos, memes ou conteúdos de filmes ou quadrinhos que usem imagens explícitas. Também removeremos outras imagens que podem não mostrar autolesão ou suicídio, mas incluem materiais ou métodos associados.

Contas que compartilham esse tipo de conteúdo também não serão recomendadas na pesquisa ou em nossas superfícies de descoberta, como o Explorar. E enviaremos a um maior número de pessoas mais recursos com linhas de apoio localizadas, como os Samaritanos e a PAPYRUS no Reino Unido ou a Linha da Vida Nacional de Prevenção ao Suicídio e a The Trevor Project nos Estados Unidos.

Esses são temas complexos que nenhuma empresa ou conjunto de políticas e práticas podem resolver sozinhos. Muitas vezes, me perguntam por que permitimos qualquer tipo de conteúdo de autolesão ou suicídio no Instagram. Os especialistas nos dizem que dar às pessoas a chance de compartilhar os momentos mais difíceis e as histórias de recuperação delas pode ser um meio essencial de apoio. Evitar que as pessoas compartilhem esse tipo de conteúdo poderia não somente estigmatizar esses tipos de problema de saúde mental, mas também impedir que pessoas próximas identificassem e respondessem a um pedido de ajuda.

O sucesso de nossa abordagem exige mais do que uma única alteração de nossas políticas ou atualização de nossa tecnologia. Nosso trabalho aqui nunca termina. Nossas políticas e tecnologia precisam evoluir conforme novas tendências surgem e comportamentos mudam.

Para nos ajudar a ficar atentos a novas tendências ou nuances culturais, todo mês nos encontramos com acadêmicos e especialistas em suicídio e autolesão, incluindo a Vita Alere no Brasil. Também estamos trabalhando com a organização sueca de saúde mental, MIND, para entender a função que a tecnologia e as redes sociais desempenham na vida dos jovens. No Reino Unido, estamos trabalhando com os Samaritanos em uma iniciativa em todo o setor para formular novas diretrizes a fim de ajudar as pessoas em dificuldade.

Sempre que ouvimos falar de alguém que feriu a si mesmo e que pode ter sido influenciado pelo que viu em nossas plataformas, somos lembrados das dificuldades que muitos jovens enfrentam online e offline. Continuaremos trabalhando para manter a segurança de todos no Instagram, ao mesmo tempo em que possibilitamos que as pessoas tenham acesso ao apoio que poderá fazer a diferença quando elas mais precisarem.

Adam Mosseri, Head do Instagram

ARTIGOS RELACIONADOS

Confira mais avisos sobre Instagram