Neue Tools zum Schutz der Community vor missbräuchlichen Inhalten

Von  

Adam Mosseri

10. August 2021

Heute stellen wir eine Reihe neuer Funktionen vor, die dem Schutz unserer Nutzer*innen auf Instagram vor missbräuchlichen Inhalten dienen:

  • Wenn Nutzer*innen bei gesteigerter Aufmerksamkeit kurzzeitig vermehrt Kommentare und Nachrichtenanfragen erhalten, können sie diese limitieren.
  • Nutzer*innen erhalten verschärfte Warnungen, wenn sie versuchen, potenziell anstößige Kommentare zu posten.
  • Wir führen weltweit unsere Funktion „Nachrichten/Kommentare verbergen“ ein, mit der Nutzer*innen missbräuchliche Nachrichtenanfragen herausfiltern können.

Es liegt an uns, dafür zu sorgen, dass sich alle Menschen auf Instagram sicher fühlen. Wir tolerieren weder Hassrede noch Mobbing. Finden wir auf Instagram derartige Inhalte, entfernen wir sie umgehend. Zum Schutz unserer Community möchten wir darüber hinaus verhindern, dass solche missbräuchlichen Inhalte überhaupt ein Publikum finden. Dazu orientieren wir uns am Feedback von Expert*innen und aus unserer Community, um neue Funktionen zu entwickeln, die unsere Nutzer*innen vor Missbrauch schützen und ihnen mehr Kontrolle über ihr Nutzungserlebnis auf Instagram geben.

Limitieren: Einfacher Schutz vor unerwünschten Kommentaren und Direktnachrichten

Mit unserer neuen Funktion Limitieren können sich Nutzer*innen vor einer plötzlichen Flut an missbräuchlichen Kommentaren oder Nachrichtenanfragen schützen, oder wenn sie Derartiges erwarten. Das Feature ist einfach zu aktivieren und verbirgt automatisch Kommentare und Nachrichtenanfragen von Personen, die dir nicht oder erst seit Kurzem folgen.

Diese Funktion haben wir entwickelt, weil wir von Creator*innen und Personen des öffentlichen Lebens gehört haben, dass sie manchmal kurzzeitig vermehrt Kommentare und Nachrichtenanfragen von Unbekannten erhalten. Meist handelt es sich dabei um positive Nachrichten und Unterstützung – etwa für Medaillengewinner*innen bei den Olympischen Spielen. Manchmal häufen sich aber vorübergehend auch unerwünschte Kommentare und Nachrichten. Wenn du gerade eine solche Häufung erlebst oder erwartest, kannst du jetzt die Funktion Limitieren aktivieren und das Problem so abstellen.

Unsere Forschung zeigt, dass Negativität gegenüber Personen des öffentlichen Lebens meist von Menschen stammt, die ihnen gar nicht oder erst seit Kurzem folgen, und die schlichtweg eine günstige Gelegenheit wittern, sich abwertend zu äußern. Das war zuletzt nach dem Finale der Fußball-EM 2020 zu beobachten. Dabei kam es kurzzeitig zu einem deutlichen und inakzeptablen Anstieg rassistischer Beleidigungen gegenüber einzelnen Spielern. Wir wissen aber auch, dass viele Creator*innen ihre Kommentare und Nachrichten nicht vollständig deaktivieren wollen. Sie möchten weiterhin den direkten Kontakt mit ihrer Community pflegen. Dank der Funktion Limitieren kannst du jetzt mit treuen Follower*innen weiterhin in Kontakt bleiben, aber Nachrichten von Nutzer*innen begrenzen, die nur die Absicht haben, dich zu schikanieren.

Ab heute steht die Funktion Limitieren allen Instagram-Nutzer*innen weltweit zur Verfügung. Du kannst die Option jederzeit in deinen Privatsphäre-Einstellungen aktivieren oder deaktivieren. Außerdem erforschen wir neue Möglichkeiten, eine kurzzeitige Häufung von Kommentaren und Direktnachrichten automatisch zu erkennen, damit wir unseren Nutzer*innen vorschlagen können, die Funktion Limitieren zu aktivieren.

Verschärfte Warnungen, um Belästigungen entgegenzuwirken

Schon heute wird eine Warnung angezeigt, wenn jemand auf Instagram versucht, potenziell anstößige Kommentare zu posten. Wenn die Person wiederholt versucht, potenziell anstößige Kommentare zu posten, blenden wir eine verschärfte Warnung ein, in der wir auf unsere Gemeinschaftsrichtlinien verweisen und den*die Nutzer*in warnen, dass der Kommentar möglicherweise entfernt oder verborgen wird. Zukünftig warten wir nicht mehr den zweiten oder dritten Kommentar ab, sondern zeigen die verschärfte Warnung schon beim ersten Mal.

Diese Warnungen haben sich als sehr effektiv erwiesen. Letzte Woche zum Beispiel haben wir rund eine Million Warnungen pro Tag eingeblendet, wenn Nutzer*innen im Begriff waren, potenziell anstößige Kommentare zu posten. In ca. 50 % der Fälle wurde der Kommentar daraufhin bearbeitet oder entfernt.

Gegen Missbrauch in Direktnachrichten und Kommentaren

Um Menschen vor Missbrauch in Nachrichtenanfragen zu schützen, haben wir vor Kurzem die Funktion „Nachrichten/Kommentare verbergen“ angekündigt. Damit kannst du Nachrichten, die anstößige Wörter, Ausdrücke oder Emojis enthalten, automatisch herausfiltern und in einem speziellen Ordner ablegen, den du nie zu öffnen brauchst. Auch Nachrichtenanfragen, bei denen es sich wahrscheinlich um Spam handelt, werden so herausgefiltert. Nachdem wir diese Funktion Anfang des Jahres in ausgewählten Ländern eingeführt haben, werden wir sie bis Ende dieses Monats weltweit verfügbar machen. Wir werden auch weiterhin Konten mit vielen Follower*innen mit Hinweisen in ihrem Postfach und oben in ihren Stories dazu anregen, das Feature zu aktivieren.

Die Liste mit potenziell anstößigen Wörtern, Hashtags und Emojis, nach denen wir Kommentare automatisch filtern, haben wir erweitert und wir werden sie auch weiterhin regelmäßig aktualisieren. Seit Kurzem können Nutzer*innen auch die zusätzliche Option „Weitere Kommentare verbergen“ aktivieren und so potenziell schädliche Kommentare verbergen, selbst wenn diese nicht gegen unsere Regeln verstoßen.

Unser Kampf gegen Beleidigungen im Internet geht weiter

Mit diesen neuen Funktionen möchten wir unsere Nutzer*innen noch besser vor rassistischen, sexistischen, homophoben und anderen beleidigenden Inhalten schützen. Wir wissen, dass es noch einiges zu tun gibt. Zum Beispiel möchten wir unsere Systeme weiter verbessern, um beleidigende Inhalte schneller zu finden und entfernen, und die Verfasser*innen zur Verantwortung zu ziehen. Unser Ziel ist es, Hass auf unserer Plattform mit allen Mitteln zu bekämpfen. Uns ist aber auch bewusst, dass wir dieses Problem nicht alleine aus der Welt schaffen können. Wir werden weiterhin Organisationen unterstützen, die sich gegen Rassismus und für Gleichberechtigung einsetzen. Gemeinsam mit Branchenvertreter*innen, Regierungen und gemeinnützigen Organisationen wollen wir die Menschen aufklären und dem Hass so ein Ende setzen. Dieses Ziel werden wir nicht aus den Augen verlieren – und weiterhin von unseren Fortschritten berichten.