Nouveaux outils de lutte contre le harcèlement sur Instagram

Par  

Adam Mosseri

9 octobre 2018

Le harcèlement n’a pas sa place sur Instagram. Si des personnes sont témoins de ce type de comportement blessant sur notre plateforme, elles peuvent les signaler, et nous supprimerons les contenus qui enfreignent nos règles. Cependant, le harcèlement en ligne est un problème complexe. Nous savons qu’il reste encore du travail à faire pour limiter davantage le harcèlement et promouvoir la bienveillance sur Instagram. C’est pourquoi nous annonçons aujourd’hui nos derniers outils pour lutter contre le harcèlement, notamment un processus inédit pour identifier et signaler le harcèlement sur les photos. Nous lançons également un effet visuel pour promouvoir la bienveillance dans les stories. En tant que nouveau responsable d’Instagram, je suis fier de renforcer notre engagement pour faire d’Instagram une communauté bienveillante et sûre pour toutes et tous.

Détecter le harcèlement dans les photos

Alors que la plupart des photos publiées sur Instagram sont positives et apportent de la joie aux internautes, parfois, une photo déplaisante ou indésirable est partagée. Nous utilisons désormais une technologie de machine learning afin de détecter de manière proactive le harcèlement dans les photos et leur légende, et d’envoyer ces contenus à notre équipe Community Operations pour examen.

Ainsi, nous pourrons identifier et supprimer bien plus de contenus relevant du harcèlement. Il s’agit d’une étape cruciale étant donné que de nombreuses personnes victimes ou témoins de harcèlement ne le signalent pas. Nous pourrons également mieux protéger les plus jeunes membres de notre communauté, sachant que les ados sont plus touché·es par le harcèlement que les autres. Nous avons commencé le déploiement de cette nouvelle technologie et le poursuivrons dans les semaines à venir.

Filtre pour les commentaires intimidants sur les vidéos en direct

Il y a quelques mois, nous avons créé un filtre pour les commentaires intimidants afin de détecter de façon proactive et de masquer ces derniers dans le fil, dans l’onglet Explorer et sur le profil. Nous ajoutons aujourd’hui ce filtre aux commentaires sur les vidéos en direct afin de nous assurer que Facebook Live reste un espace sûr et amusant pour échanger avec vos ami·es et suivre l’actualité en lien avec vos centres d’intérêt. Il est désormais disponible dans le monde entier pour toutes les vidéos en direct.

Effet visuel pour la bienveillance

Bien qu’arrêter les personnes coupables de harcèlement soit une mission importante, nous devons également en faire plus pour célébrer et encourager la bienveillance sur Instagram. En collaboration avec la jeune autrice à succès du New York Times, danseuse et actrice, Maddie Ziegler, nous lançons un effet visuel pour la bienveillance afin de partager des ondes positives. Maddie dénonce le harcèlement en ligne depuis qu’elle en a été victime. Elle est aussi l’une des nombreuses personnes de notre communauté qui utilise Instagram pour partager des idées positives.

Si vous suivez Maddie, vous aurez automatiquement accès à l’effet visuel. Faites glisser pour ouvrir la caméra, appuyez sur l’icône représentant un visage située en bas et choisissez le nouvel effet visuel. En mode selfie, des cœurs rempliront l’écran et vous serez encouragé·e à identifier une personne à laquelle vous souhaitez montrer votre soutien. Votre ami·e recevra une notification indiquant que vous l’avez mentionné·e dans votre story. Elle ou il peut la partager dans sa propre story ou utiliser l’effet visuel pour promouvoir la bienveillance auprès d’une autre personne. Si vous basculez sur la caméra arrière, vous verrez une superposition de commentaires bienveillants en différentes langues. Si vous ne suivez pas Maddie, mais que vous voyez une autre personne utiliser l’effet, appuyez sur Essayer pour ajouter l’effet à votre caméra. Pour en savoir plus sur nos effets visuels, consultez cette page.

En l’honneur du mois de prévention du harcèlement aux États-Unis, de la semaine de lutte contre le harcèlement au Royaume-Uni et des initiatives mises en place contre le harcèlement dans le monde entier, nous avons le plaisir d’annoncer ces nouveaux outils de lutte contre le harcèlement sur notre plateforme. Pour en savoir plus sur les nouveautés d’aujourd’hui, consultez la page about.instagram.com/community et les pages d’aide Instagram. Pour consulter nos toutes nouvelles ressources pour les parents, accédez à la page about.instagram.com/community/parents.

Il reste encore du chemin à parcourir et nous poursuivrons nos efforts pour protéger la communauté afin que vous puissiez être vous-même en toute sécurité sur Instagram.

— Adam Mosseri, responsable d’Instagram (@Mosseri)