Wir verpflichten uns dem Kampf gegen Online-Mobbing

Von  

Adam Mosseri, Head of Instagram

8. Juli 2019

Unsere Mission ist es, dich mit Menschen und Dingen zu verbinden, die dir wichtig sind. Das funktioniert nur, wenn sich alle beim Posten auf Instagram sicher und wohl fühlen. Wir wissen, dass viele Menschen Mobbing ausgesetzt sind – besonders junge Nutzer*innen. Es liegt uns am Herzen, den Kampf der Branche gegen Online-Mobbing anzuführen. Dafür überdenken wir das gesamte Erlebnis auf Instagram.

Wir können mehr unternehmen, um Mobbing auf Instagram zu verhindern – und wir können mehr unternehmen, um betroffenen Personen die Möglichkeit zu geben, für sich selbst einzustehen. Heute dürfen wir zwei neue Funktionen in beiden Bereichen ankündigen. Die Tools basieren auf fundierten Kenntnissen darüber, wie Menschen Mobbing gegeneinander einsetzen und wie sie auf Mobbing auf Instagram reagieren. Sie bilden aber nur zwei Schritte eines längeren Wegs in die richtige Richtung.

Zu positiven Interaktionen ermutigen

Bei Online-Mobbing handelt es sich um ein komplexes Thema. Wir nutzen bereits seit Jahren künstliche Intelligenz, um Mobbing und andere Arten verletzender Inhalte in Kommentaren, Fotos und Videos zu erkennen. Mit unserer wachsenden Community steigen auch unsere Investitionen in Technologie. Das ist besonders wichtig für Jugendliche, da sie Mobbing seltener melden, obwohl sie am häufigsten darunter zu leiden haben.

In den letzten Tagen haben wir damit begonnen, eine neue KI-gestützte Funktion einzuführen, die Menschen noch vor dem Posten darüber informiert, dass ihr Kommentar möglicherweise als beleidigend aufgefasst werden kann. Durch dieses Eingreifen erhalten Menschen die Chance, ihren Kommentar zu überdenken und zurückzuziehen, und der*die Empfänger*in wird vor dem verletzenden Kommentar geschützt. Bei den ersten Tests dieser Funktionen haben wir herausgefunden, dass manche Personen ihren Kommentar zurückziehen und einen weniger verletzenden posten, wenn sie die Chance hatten, darüber nachzudenken.

Kommentarwarnung auf Instagram.

Konten mit dem „Einschränken“-Feature vor unerwünschten Interaktionen schützen

Das Erkennen und Entfernen von Mobbing auf Instagram ist zwar wichtig, aber wir müssen auch unsere Community dazu ermutigen, sich gegenüber dieser Art von Verhalten zu behaupten. Junge Menschen aus unserer Community schrecken manchmal davor zurück, ihre*n Mobber*in zu blockieren, ihm*ihr nicht mehr zu folgen oder ihn*sie zu melden – aus Angst davor, dass sich die Situation dadurch verschärfen könnte. Das gilt besonders dann, wenn sie mit dem*der Mobber*in auch im echten Leben zu tun haben. Einige dieser Optionen erschweren es außerdem der betroffenen Person, das Verhalten des*der Mobber*in im Auge zu behalten.

Unser Ziel war es daher, eine Funktion zu entwickeln, mit der Menschen die Kontrolle über ihr Erlebnis bei Instagram haben können, ohne die Person zu benachrichtigen, die sie möglicherweise belästigt. In Kürze werden wir mit den Tests für eine neue Funktion zum Schützen deines Kontos vor unerwünschten Interaktionen beginnen – dem „Einschränken“-Feature. Wenn du jemanden einschränkst, sind Kommentare zu deinen Beiträgen von dieser Person nur noch für diese Person sichtbar. Du kannst einen Kommentar einer eingeschränkten Person für andere sichtbar machen, indem du ihn genehmigst. Eingeschränkte Personen können nicht sehen, wann du bei Instagram aktiv bist oder wann du ihre Direktnachrichten gelesen hast.

Wir sind dafür verantwortlich, eine sichere Umgebung auf Instagram zu schaffen. Dies liegt uns schon seit längerer Zeit sehr am Herzen, und wir tätigen weitere Investitionen, um dieses Problem besser zu verstehen und angehen zu können. Ich freue mich darauf, dir bald mehr Updates mitteilen zu können.

Adam Mosseri, Head of Instagram