Atualizações da Equipe de Equidade: o que realizamos e o que ainda está por vir

By Rachel Brooks, Stacey Houston e Christina Wadsworth

26 de abril de 2021

Todos os dias, pessoas negras influenciam os rumos da cultura no Instagram. Sejam ativistas, formadores de comunidades, educadores ou criadores de conteúdo, essas pessoas incorporam o que significa inspirar, lançar tendências globais e criar novos gêneros e formas de expressão, além de usarem suas vozes para cobrar indivíduos e empresas.

Quando criamos a Equipe de Equidade do Instagram, queríamos entender melhor as preocupações de comunidades marginalizadas que usam a plataforma. Ao longo dos últimos meses, a nossa equipe vem desenvolvendo as bases que já haviam sido estabelecidas no ano passado para a criação de uma plataforma mais justa. Fizemos avanços desde a nossa última atualização, e gostaríamos de compartilhá-los com você.

Primeiramente, o que faz a Equipe de Equidade?

A Equipe de Equidade foi criada para resolver os desafios que pessoas de grupos com histórico de marginalização possam enfrentar no Instagram. Sabemos que esses desafios não podem ser solucionados de um dia para outro, e que, se tentarmos resolver todos de uma só vez, não vamos resolver bem nenhum deles. Por isso, decidimos nos aprofundar primeiro nas preocupações específicas das pessoas negras na nossa plataforma, criando soluções e fazendo mudanças para que elas se sentissem mais acolhidas. Ao fazer isso, não apenas beneficiamos todas as pessoas no Instagram, como também criamos um modelo para abordar as necessidades de outras comunidades marginalizadas.

No início desse trabalho, fizemos uma ampla pesquisa com diferentes subcategorias e intersecções da comunidade negra, para que pudéssemos compreender e agir de acordo com a diversidade dela. Conversamos com criadores de conteúdo, ativistas, especialistas em políticas públicas e outros indivíduos para descobrir quais experiências essas pessoas vivenciam na plataforma. Além disso, estamos revisando as tecnologias usadas na automatização do monitoramento, das recomendações e das classificações. Assim, poderemos compreender melhor as alterações necessárias para ajudar as pessoas a não se sentirem marginalizadas na nossa plataforma.

Esse trabalho serviu como base para delimitarmos o nosso foco e determinarmos as prioridades da nossa equipe. Vamos nos dedicar a três áreas:

  • Ajudar cada pessoa da equipe do Instagram a priorizar o desenvolvimento de ferramentas produtos e equitativos
  • Promover a imparcialidade na plataforma por meio de sistemas automatizados e tecnologia
  • Usar o Instagram para criar mais oportunidades de empoderamento

Ajudar cada pessoa da equipe do Instagram a priorizar o desenvolvimento de ferramentas e produtos equitativos

Tornar a plataforma mais justa é responsabilidade de todas as equipes no Instagram. Nos últimos meses, a Equipe de Equidade lançou um programa interno para ajudar os funcionários responsáveis pelo desenvolvimento de novos produtos e tecnologias a considerar a igualdade em todas as etapas do trabalho. O Programa de Produtos Equitativos foi criado para ajudar as equipes a analisar quais alterações (grandes e pequenas) podem ser feitas para gerar efeitos positivos em comunidades marginalizadas. O programa dá aos funcionários ferramentas para pensar de maneira holística sobre o que estão desenvolvendo, principalmente em relação a como novos recursos afetam as comunidades marginalizadas. Entre as iniciativas do Programa de Produtos Equitativos, estão orientar equipes a testarem produtos levando em conta a equidade, dar treinamentos, ajudar a renomear termos preconceituosos nos códigos (mudando termos comuns no setor, como "lista branca" e "lista negra" para "lista de permissão" e "lista de bloqueio", por exemplo), entre outras ações. Até agora, trabalhamos com três grandes equipes (Feed e Stories, Reels e Criadores de conteúdo) para reavaliar os produtos e descobrir quais melhorias podemos realizar. Ao longo dos próximos dezoito meses, expandiremos esse programa para todas as equipes do Instagram.

Em relação à parte técnica, disponibilizamos guias de modelos de aprendizado de máquina no Instagram, uma espécie de lista de verificação para que novos aprendizados de máquina sejam desenvolvidos priorizando a equidade. Essas guias de modelo funcionam de modo similar a um questionário. Elas asseguram que as equipes analisem as possíveis ramificações de novos modelos antes de implementá-los, reduzindo o potencial de viés algorítmico. As guias de modelo fazem uma série de perguntas e considerações sobre equidade. Elas ajudam a reduzir possíveis danos não intencionais a comunidades específicas e nos permitem corrigir quaisquer impactos antes do lançamento de novas tecnologias. Antes da eleição dos EUA, por exemplo, estabelecemos medidas temporárias para dificultar a exibição de desinformação e conteúdos violentos. Nossas equipes usaram guias de modelo para garantir que os modelos de aprendizado de máquina apropriados fossem implementados para proteger a eleição, sem quem essas medidas fossem injustas ou afetassem uma comunidade de modo desproporcional.

Planejamos expandir esse programa ao longo dos próximos 18 meses, ajudando todas as equipes no Instagram a usarem essas guias. Assim, será possível levar a imparcialidade para todas as etapas do desenvolvimento de tecnologias e reduzir possíveis danos injustos a comunidades.

Promover a imparcialidade na plataforma por meio de sistemas automatizados e tecnologia

No decorrer da nossa pesquisa, foram recorrentes os pedidos por mais transparência sobre o funcionamento dos nossos sistemas as decisões sobre conteúdo. As pessoas achavam que o crescimento e/ou engajamento da conta delas havia sido afetado, mas não entendiam exatamente como. Às vezes, elas se referiam a essa situação como "shadowbanning". Segundo as conversas que tivemos com essas pessoas, o problema geralmente estava relacionado a:

  • Falta de entendimento sobre por que estavam recebendo menos curtidas ou comentários do que antes;
  • Impressão de que as nossas decisões e políticas não consideram as nuances culturais e/ou históricas das experiências vividas por diferentes comunidades;
  • Confusão sobre forma como impomos as nossas políticas, por acharem que algumas comunidades estavam sujeitas a critérios a que outras não estavam ou que os nossos sistemas removiam conteúdos sem motivo;
  • Problemas técnicos, interpretados por algumas pessoas como formas de repressão.

Depois da pesquisa, entendemos melhor por que algumas pessoas acreditam que exista um viés, o que nos ajudou a definir as bases para que as ferramentas e os produtos tenham mais transparência. Isso inclui ferramentas para oferecer mais transparência se houver restrições na conta de uma pessoa ou se o alcance dela estiver sendo limitado, além de ações que podem ser tomadas para resolver o problema. Também pretendemos estabelecer uma comunicação direta no aplicativo para avisar as pessoas quando erros ou problemas técnicos estiverem afetando os conteúdos delas. Nos próximos meses, compartilharemos mais detalhes sobre esses novos recursos.

Usar o Instagram para criar mais oportunidades de empoderamento econômico

No decorrer da pandemia, as comunidades marginalizadas foram afetadas de maneira desproporcional, sofrendo com a falta acesso a serviços de saúde, alto índice de desemprego e diversos outros problemas. Várias situações como essas acontecem devido ao racismo estrutural e institucional. Para solucioná-las, é necessário que trabalhemos juntos enquanto sociedade. Queremos usar as plataformas do Facebook e do Instagram para ajudar a eliminar essas disparidades sempre que possível. Para lidarmos com as disparidades na saúde, trabalhamos com as nossas equipes de saúde para garantir que as pessoas tenham acesso a informações confiáveis sobre a segurança e disponibilidade das vacinas, além de quem pode tomá-las.

De forma geral, sabemos que as pessoas negras em todo o mundo muitas vezes não tiveram acesso a boas oportunidades econômicas. Embora não possamos resolver sozinhos o racismo estrutural e institucional que vemos na nossa sociedade, podemos explorar oportunidades para ajudar a eliminar essas disparidades no Instagram, principalmente no que diz respeito a apoiar pessoas negras que empreendem e criam conteúdo. Começamos essa iniciativa no ano passado, doando US$ 25 milhões para criadores de conteúdo negros no Facebook e no Instagram. Como parte desse investimento, lançamos um novo programa para que a próxima geração de criadores de conteúdo negros usufrua de financiamento e recursos que possam ajudá-la a ter sucesso online e offline. Além disso, lançamos a hashtag #ValorizeOEmpreendedorNegro nos Stories, para ajudar a divulgação e o apoio a empresas de empreendedores negros. Nos próximos meses, implementaremos novos recursos de produtos para facilitar a descoberta e o crescimento dessas empresas. Desenvolveremos também recursos específicos para auxiliar as pessoas a encontrarem empresas de empreendedores negros no Instagram, além de protegê-los de interações que possam ser prejudiciais.

— —

Nossa equipe trabalha todos os dias para aprimorar as experiências de comunidades marginalizadas que usam o Instagram. Nossa pesquisa ao longo do último ano nos ajudou a identificar e entender melhor os problemas que elas enfrentam, mas sabemos que sempre haverá muito mais a ser feito. Continuaremos trabalhando incessantemente para garantir que todas as pessoas se sintam seguras para se expressar na plataforma, empoderadas com as nossas ferramentas e apoiadas pelo Instagram.

ARTIGOS RELACIONADOS

Confira mais avisos sobre Instagram