Uma atualização sobre nossas iniciativas de equidade

Em meio a uma pandemia global, à proximidade das eleições e ao aumento de tensões raciais, percebemos que as pessoas estão mudando a forma com que usam o Instagram. Mais do que nunca, elas recorrem à plataforma para aumentar a conscientização sobre causas sociais, cívicas e raciais com as quais se preocupam. Esse é um dos principais motivos pelos quais nos comprometemos, em junho, a analisar de que maneiras o Instagram poderia estar desfavorecendo alguns grupos. Temos a responsabilidade de avaliar os produtos que criamos e como eles são desenvolvidos. Dessa forma, as experiências que as pessoas tiverem com eles poderão refletir melhor as ações e os desejos da nossa comunidade.

Confira a seguir uma atualização sobre as áreas em que fizemos progresso nos últimos meses. Esta não é uma lista completa, e ainda temos muito a fazer. Vou compartilhar atualizações com frequência para que nossa comunidade saiba que esse trabalho é importante e contínuo.

Nova equipe de Equidade

Para assegurar que esse trabalho tenha apoio total, criamos um grupo de produto dedicado: a Equipe de Equidade do Instagram. Ela se concentrará em entender os vieses no desenvolvimento dos nossos produtos e nas experiências das pessoas no Instagram, assim como lidar com eles. A equipe de Equidade terá como foco criar produtos justos e equitativos. Isso inclui trabalhar com a Equipe de Inteligência Artificial Responsável do Facebook para garantir que os algoritmos sejam justos. Além disso, a equipe criará novos recursos que atendam às necessidades de comunidades desfavorecidas. Teremos uma iniciativa além dessa equipe. Contrataremos um novo diretor de diversidade e inclusão para o Instagram, que ajudará a atingir a meta de encontrar, reter e desenvolver talentos mais diversificados.

Assédio e ódio

Desenvolvemos e atualizamos uma série de políticas em toda a empresa para apoiar as comunidades ao redor do mundo. Atualizamos nossas políticas para incluir especificamente alguns tipos de discurso de ódio implícito, como conteúdo que tenha pessoas com blackface (quando pessoas que não são negras pintam o rosto de preto, uma prática considerada racista) ou estereótipos sobre judeus. Também reforçamos a imposição das regras contra pessoas que fazem ameaças sérias de violência sexual. A partir de agora, em vez de apenas remover o conteúdo, desativaremos qualquer conta que fizer essas ameaças assim que tomarmos conhecimento delas. Além disso, garantiremos que as figuras públicas involuntárias (pessoas que talvez não quisessem atrair atenção e que muitas vezes são membros de comunidades marginalizadas) estejam protegidas do assédio e do bullying, assim como estavam antes de se tornarem conhecidas pelo público.

Continuamos priorizando a remoção de conteúdo que viola nossa política contra grupos de ódio. Isso inclui a remoção de 23 organizações banidas, das quais mais da metade apoiava a supremacia branca. Além disso, recentemente anunciamos atualizações para tomar providências contra organizações ligadas à violência, como o QAnon.

Também fizemos algumas alterações para criadores de conteúdo e empresas. Por exemplo, agora, pessoas com contas empresariais e de criadores de conteúdo têm a possibilidade de gerenciar quem pode enviar mensagens diretas a elas. Também começamos a expandir os avisos de comentários de modo a exibi-los quando alguém deseja comentar em transmissões ao vivo. Assim, solicitaremos que as pessoas analisem novamente os comentários que possam ser ofensivos antes de publicá-los.

Verificação

Nos últimos dois meses, analisamos as práticas de verificação do Instagram e começamos a fazer alterações para garantir um processo mais justo. A conta precisa atender a determinados critérios antes que possamos verificá-la, incluindo um nível de relevância. Mensuramos a relevância por meio de artigos de imprensa sobre a pessoa que solicitou a verificação. Agora, ampliamos a lista de fontes da imprensa que consideramos durante o processo, de modo a incluir mais mídias das comunidades negra, LGBTIQIA+ e latino-americana.

Embora o número de seguidores nunca tenha sido um requisito para a verificação por meio do formulário no app (que pode ser usado por qualquer pessoa), tínhamos alguns sistemas que priorizavam contas com um alto número de seguidores, a fim de ajudar a analisar as milhares de solicitações que recebemos todos os dias. Isso foi removido da parte automatizada do processo.

Distribuição

Em resposta a preocupações relacionadas à censura no Instagram, publicamos recentemente as diretrizes que usamos para determinar os tipos de conteúdo que podem ser exibidos em locais como o Explorar. Esperamos que as pessoas entendam melhor por que alguns tipos de conteúdo não fazem parte das recomendações do Instagram e do Facebook, o que significa que não são distribuídos de forma tão ampla. Para o estabelecimento dessas diretrizes, consultamos mais de 50 especialistas que são líderes do setor. Eles são especializados em sistemas de recomendação, computação social, liberdade de expressão, proteção e direitos civis e digitais.

Conforme eu disse na minha primeira publicação, esse trabalho levará algum tempo, mas é importante manter a dedicação para fazê-lo do jeito certo. Caso tenha interesse em nos ajudar a fazer esse trabalho, confira algumas das vagas abertas na Equipe de Políticas e na Equipe de Produtos.