Uma atualização sobre o nosso trabalho no combate ao abuso no Instagram

Queremos que o Instagram seja um lugar para as pessoas se conectarem com outras pessoas e coisas que amam. Mas sabemos que, assim como no mundo offline, sempre haverá pessoas que têm um comportamento abusivo com outras. Vimos isso recentemente no caso do abuso racista online direcionado a jogadores de futebol no Reino Unido. Não queremos esse comportamento no Instagram.

O abuso que observamos tem ocorrido muito nas mensagens diretas (DMs) das pessoas, o que é mais difícil de resolver do que comentários no Instagram. Como as mensagens diretas são para conversas privadas, não usamos tecnologia para detectar proativamente conteúdo como discurso de ódio ou bullying da mesma forma que fazemos em outros locais. Porém, ainda há ações que podemos tomar para ajudar a evitar esse tipo de comportamento. Portanto, hoje estamos anunciando algumas novas medidas, incluindo a remoção de contas de pessoas que enviam mensagens abusivas e o desenvolvimento de novos controles para ajudar a reduzir o abuso que as pessoas veem nas mensagens diretas delas.

Nossa posição sobre discurso de ódio

Nossas regras sobre discurso de ódio não toleram ataques a pessoas com base em suas características protegidas, incluindo raça ou religião. Reforçamos essas regras no ano passado, banindo formas mais implícitas de discurso de ódio, como conteúdo retratando blackface (quando pessoas que não são negras pintam o rosto de preto para fazer caricaturas de pessoas negras) e elementos antissemitas comuns. Agimos sempre que tomamos conhecimento de conteúdos com discurso de ódio. Além disso, estamos continuamente melhorando nossas ferramentas de detecção para que possamos encontrá-los com mais rapidez. Entre julho e setembro do ano passado, tomamos medidas em relação a 6,5 milhões de itens contendo discurso de ódio no Instagram, incluindo em mensagens diretas, nas quais 95% das vezes encontramos indícios antes de qualquer denúncia.

Penalidades mais rígidas para pessoas que enviam mensagens abusivas

Hoje anunciamos que tomaremos medidas mais duras quando descobrirmos que as pessoas estão violando nossas regras em mensagens diretas. Atualmente, quando alguém envia mensagens diretas que violam nossas regras, proibimos essa pessoa de enviar mais mensagens por um determinado período. Agora, se uma pessoa continuar enviando mensagens que violam nossas regras, a conta dela será desativada. Também desativaremos novas contas criadas para contornar nossas restrições de mensagens. Continuaremos desativando contas que acreditarmos que são criadas exclusivamente para enviar mensagens abusivas.

Trabalho com autoridades policiais

Também estamos comprometidos a cooperar com as autoridades de aplicação da lei do Reino Unido sobre discurso de ódio. Responderemos a solicitações legais válidas de informações nesses casos. Como fazemos com todas as solicitações de autoridades de aplicação da lei, levaremos em conta se elas forem muito amplas, incompatíveis com os direitos humanos ou legalmente inválidas.

Ferramentas para controlar sua experiência

Quando se trata de comentários no Instagram, também há várias ferramentas que ajudam as pessoas a se protegerem. As pessoas podem usar filtros de comentários para evitar que outras pessoas deixem comentários ofensivos que usem palavras, frases ou emojis que elas não querem ver. No ano passado, anunciamos um novo recurso para gerenciar vários comentários indesejados de uma vez, seja excluindo-os em massa ou bloqueando em massa as contas que os publicaram. Também notamos uma diminuição significativa nos comentários ofensivos depois que começamos a usar a IA para avisar as pessoas quando elas estiverem prestes a publicar algo que possa ser prejudicial.

Garantir que as pessoas não vejam conteúdo com discurso de ódio ou assédio nas mensagens diretas é mais desafiador, visto que são conversas privadas. As contas empresariais e de criadores de conteúdo tendem a ter um alto número de seguidores e receber as mensagens mais abusivas de desconhecidos. Nessas contas, há opção de desativar as mensagens diretas de pessoas que elas não seguem. Também começamos a implementar esses controles em contas pessoais em muitos países. Esperamos disponibilizá-los a todos em breve. As pessoas também podem optar por desativar marcações ou menções de uma pessoa desconhecida ou bloquear qualquer pessoa que envie mensagens indesejadas.

Como as conversas recentes com nossa comunidade claramente mostraram, reconhecemos que ver mensagens diretas abusivas pode trazer graves consequências. No momento, estamos trabalhando em um novo recurso desenvolvido para ajudar com esse problema, que incorporará o feedback da nossa comunidade. Esperamos lançá-lo nos próximos meses.

Estamos empenhados em fazer tudo que pudermos para combater o discurso de ódio e o racismo na nossa plataforma, mas entendemos que esses problemas são maiores do que nós. Esperamos trabalhar com outras empresas, associações de futebol, ONGs, governos, pais e educadores, tanto online quanto offline.