Nosso compromisso em liderar o combate contra o bullying online

Nossa missão é conectar você com as pessoas e coisas que ama. Isso funciona apenas se as pessoas se sentem confortáveis em se expressar no Instagram. Sabemos que o bullying é um desafio que muitos enfrentam, principalmente os jovens. Temos o compromisso de liderar o setor na luta contra o bullying online. Por isso, estamos repensando toda a experiência do Instagram a fim de honrar esse objetivo.

Podemos fazer mais para impedir que o bullying aconteça no Instagram. E podemos fazer mais para capacitar os alvos dessa prática a se defenderem. Hoje, estamos anunciando um novo recurso nas duas áreas. Essas ferramentas são baseadas em um profundo entendimento de como as pessoas praticam o bullying e como respondem a ele no Instagram. Contudo, elas são apenas dois passos em um caminho longo caminho.

Incentivando interações positivas

O bullying online é um assunto complexo. Há anos, usamos inteligência artificial para detectar bullying e outros tipos de conteúdo prejudicial em comentários, fotos e vídeos. À medida que nossa comunidade cresce, nosso investimento em tecnologia também. Isso é especialmente importante para adolescentes, visto que a probabilidade de denunciarem bullying online é menor, mesmo sendo as principais vítimas.

Nos últimos dias, começamos a implementar um novo recurso com tecnologia de IA que informa às pessoas que o comentário delas pode ser considerado ofensivo. Esse aviso é dado antes de o comentário ser publicado. Essa intervenção dá as pessoas uma chance de refletir e desfazer o comentário e evita que o destinatário receba a notificação com o comentário prejudicial. Desde os testes iniciais do recurso, descobrimos que ele incentiva algumas pessoas a desfazer o comentário e compartilhar algo menos ofensivo depois de ter a chance de refletir.

Protegendo sua conta contra interações indesejadas com o recurso Restringir

Identificar e remover bullying no Instagram é importante. No entanto, também sabemos que precisamos capacitar nossa comunidade a se defender desse tipo de comportamento. Ouvimos dos jovens em nossa comunidade que eles são relutantes em bloquear, deixar de seguir ou denunciar o ofensor, pois a situação pode escalar, principalmente se interagirem com essa pessoa na vida real. Algumas dessas ações também dificultam que um alvo acompanhe o comportamento do ofensor.

Queríamos criar um recurso que permite às pessoas controlar sua própria experiência no Instagram, sem notificar o ofensor que pode estar praticando o bullying. Em breve, testaremos uma nova forma de proteger sua conta contra interações indesejadas. Esse recurso é chamado Restringir. Ao restringir alguém, os comentários dessa pessoa nas suas publicações estarão visíveis apenas para ela. Ao aprovar o comentário de uma pessoa restrita, você pode tornar os comentários dela visíveis para outras pessoas. As pessoas restritas não poderão ver quando você estiver online no Instagram ou ler as mensagens diretas dela.

É nossa responsabilidade criar um ambiente seguro no Instagram. Isso tem sido uma prioridade importante para nós há algum tempo. Continuamos investindo em entender e abordar melhor esse problema. Espero compartilhar mais atualizações em breve.

Adam Mosseri, diretor do Instagram