Apresentamos novas ferramentas para proteger nossa comunidade contra abusos

21 de abril de 2021

Recentemente, compartilhamos uma atualização sobre nosso trabalho para combater abusos e discursos de ódio no Instagram, incluindo punições mais rígidas para pessoas que enviam mensagens diretas abusivas. Agora, estamos anunciando uma nova maneira de evitar que as pessoas vejam mensagens diretas abusivas, além da possibilidade de impedir que uma pessoa bloqueada por você entre em contato usando uma nova conta.

Um novo recurso para filtrar mensagens abusivas

Exemplo do recurso Mensagens ocultas no smartphone.

Sabemos que o conteúdo abusivo é prejudicial às pessoas, seja ele racista, sexista, homofóbico ou de qualquer outra natureza abusiva. Ninguém deveria passar por isso no Instagram. No entanto, combater o abuso é um desafio complexo. Não existe uma solução única que o elimine completamente. Por exemplo, sabemos que muitas pessoas da nossa comunidade, principalmente aquelas com mais seguidores, já passaram por situações abusivas devido a solicitações de mensagens de usuários que não seguiam.

Como as mensagens diretas são conversas privadas, não as analisamos em busca de casos de discurso de ódio e bullying da mesma forma que no restante do Instagram. Por isso, estamos lançando uma nova ferramenta que, quando ativada, filtrará automaticamente as solicitações de mensagens que contêm palavras, frases e emojis ofensivos. Assim, você nunca mais vai precisar vê-las. Essa ferramenta se destina às solicitações de mensagens diretas, porque é por meio delas que as pessoas costumam receber mensagens abusivas (ao contrário da Caixa de Entrada normal, que armazena mensagens de amigos). O recurso funcionará de maneira semelhante aos filtros de comentários já disponíveis, que permitem ocultar comentários ofensivos e escolher quais termos não devem aparecer nos comentários das publicações. É possível ativar e desativar tanto os filtros de comentários quanto os filtros de solicitações de mensagens diretas em uma nova seção exclusiva para isso chamada Mensagens ocultas, localizada nas Configurações de Privacidade.

Trabalhamos com organizações líderes no combate à discriminação e ao bullying para desenvolver uma lista predefinida de termos ofensivos, que serão filtrados nas solicitações de mensagens quando o recurso for ativado. Sabemos que as palavras podem ofender as pessoas de diversas formas. Por isso, cada usuário terá a opção de criar uma lista personalizada de palavras, frases ou emojis que não deseja ver nas solicitações de mensagens. Todas as solicitações de mensagens diretas que contêm palavras, frases ou emojis ofensivos, sejam da lista personalizada ou da lista predefinida, serão filtradas automaticamente e enviadas para uma pasta separada de solicitações ocultas. Se você decidir abrir a pasta, o texto das mensagens será coberto para que a linguagem ofensiva não seja exposta. No entanto, será possível tocar nas mensagens para exibi-las. Você também terá a opção de aceitar a solicitação de mensagem, excluí-la ou denunciá-la.

Esse novo recurso foi desenvolvido para ajudar a proteger nossa comunidade de solicitações de mensagens diretas potencialmente ofensivas ou abusivas, mas sem deixar de respeitar a privacidade. Toda a filtragem de mensagens ocorrerá no dispositivo, o que significa que esse recurso não enviará nenhum conteúdo das mensagens aos nossos servidores. Quando você usa esse recurso, o conteúdo das suas solicitações de mensagens não é compartilhado conosco, a menos que você as denuncie.

Vamos começar a implementar esse recurso em vários países nas próximas semanas, com planos de expandi-lo para mais regiões nos próximos meses.

Uma nova forma de proteção contra contatos indesejados

Exemplo de bloqueio de várias contas no smartphone.

Agora, uma pessoa que você já bloqueou terá mais dificuldade de voltar a entrar em contato por meio de uma nova conta. Com esse recurso, sempre que decidir bloquear alguém no Instagram, você terá a opção de bloquear a conta dessa pessoa e, para se prevenir, bloquear novas contas que ela possa criar. O recurso estará disponível para o mundo todo nas próximas semanas.

Isso complementa nossas políticas contra assédio, que já proíbem o contato recorrente indesejado com alguém. Além disso, não permitimos reincidência. Portanto, se uma conta for desativada por violar nossas regras, removeremos todas as novas contas criadas pela pessoa em questão sempre que ficarmos cientes delas.

Continuando nosso trabalho no combate a comentários ofensivos

Além de usarmos tecnologia de detecção proativa para identificar comentários violadores, oferecemos várias ferramentas para ajudar você a controlar o abuso nos seus comentários. Se a sua conta for pública, você tem a opção de permitir comentários apenas de pessoas que segue e/ou que seguem você.

Também começamos a ocultar erros de ortografia comuns em palavras ofensivas da lista manual de filtro de comentários. Assim, mesmo que uma palavra indesejada seja escrita incorretamente por acidente ou de propósito, você não a verá nos comentários.

Sabemos que podemos contribuir mais. Estamos empenhados em nossa luta contra o bullying e o abuso online. Vamos continuar trabalhando em parceria com especialistas, organizações do setor, adolescentes, criadores de conteúdo e figuras públicas para entender a experiência deles no Instagram e aprimorar as políticas e os produtos, visando proteger a comunidade contra abusos online.