Neue Optionen zum Schutz der Community vor missbräuchlichen Inhalten

By Adam Mosseri

10. August 2021

Heute stellen wir eine Reihe neuer Funktionen vor, mit denen wir Menschen auf Instagram vor missbräuchlichen Inhalten schützen möchten:

  • Bei gesteigerter Aufmerksamkeit können Nutzer*innen Kommentare und Direktnachrichten limitieren.
  • Mit verschärften Hinweisen warnen wir Menschen, die potenziell anstößige Kommentare posten möchten.
  • Die Funktion „Nachrichten/Kommentare verbergen“, mit der Nutzer*innen missbräuchliche Nachrichtenanfragen filtern können, wird weltweit eingeführt.

Es liegt an uns, dafür zu sorgen, dass sich alle Menschen auf Instagram sicher fühlen. Wir tolerieren weder Hassrede noch Mobbing. Finden wir auf Instagram derartige Inhalte, entfernen wir sie umgehend. Zum Schutz unserer Community möchten wir darüber hinaus verhindern, dass solche missbräuchlichen Inhalte überhaupt ein Publikum finden. Dazu orientieren wir uns am Feedback von Expert*innen und aus unserer Community, um neue Funktionen zu entwickeln, die unsere Nutzer*innen vor Missbrauch schützen und ihnen mehr Kontrolle ermöglichen.

Limitieren: Einfacher Schutz vor unerwünschten Kommentaren und Direktnachrichten

Mit der Funktion Limitieren können Menschen sich schützen, wenn sie sich plötzlich einer Flut von beleidigenden Kommentaren oder Direktnachrichten ausgesetzt sehen oder Derartiges erwarten. Das Feature ist einfach zu aktivieren und verbirgt automatisch Kommentare und Nachrichtenanfragen von Personen, die keine oder erst seit Kurzem Abonnenten des Kontos sind.

Diese Funktion haben wir entwickelt, weil wir von Creator*innen und Personen des öffentlichen Lebens gehört haben, dass sie manchmal vermehrt mit Kommentaren und Nachrichtenanfragen von Unbekannten konfrontiert sind. Meist handelt es sich dabei um positive Nachrichten und Unterstützung – etwa für Medaillengewinner*innen bei Olympia. Manchmal häufen sich in solchen Situationen aber auch unerwünschte Kommentare und Nachrichten. Personen, die gerade eine solche Häufung erleben oder erwarten, können dies jetzt mit der Funktion Limitieren vermeiden.

Unsere Forschung zeigt, dass Negativität gegenüber Personen des öffentlichen Lebens meist von Menschen stammt, die sie nicht oder erst seit Kurzem abonniert haben, und die schlichtweg eine günstige Gelegenheit wittern, sich abwertend zu äußern. Das war zuletzt etwa im Umfeld der Fußball-EM 2020 und besonders rund um das Finale zu beobachten. Dabei kam es zu einem deutlichen und inakzeptablen Anstieg rassistischer Beleidigungen gegenüber einzelnen Spielern. Wir wissen aber auch, dass viele Creator*innen ihre Kommentare und Nachrichten nicht vollständig deaktivieren wollen. Sie möchten weiterhin den direkten Kontakt mit ihrer Community pflegen. Mithilfe der Funktion Limitieren können sie jetzt die Kontaktaufnahme durch Personen mit potenziell bösartigen Absichten unterbinden, ohne den Austausch mit ihren treuen Abonnent*innen einzuschränken.

Ab heute ist Limitieren weltweit für alle Instagram-Nutzer*innen verfügbar. Die Option kann jederzeit in den Privatsphäre-Einstellungen aktiviert oder deaktiviert werden. Außerdem erforschen wir neue Möglichkeiten, plötzliche Anstiege bei Kommentaren und Direktnachrichten automatisch zu erkennen und unseren Nutzer*innen daraufhin vorzuschlagen, die Limitieren-Funktion zu aktivieren.

Verschärfte Warnungen bei Belästigung

Schon heute zeigen wir eine Warnung, wenn Menschen auf Instagram versuchen, potenziell anstößige Kommentare zu posten. Bislang zeigen wir erst eine eindringlichere Warnung, wenn die Person wiederholt versucht, potenziell anstößige Kommentare zu posten. Darin verweisen wir auf unsere Gemeinschaftsrichtlinien und warnen sie, dass der Kommentar möglicherweise entfernt oder verborgen wird. Zukünftig warten wir nicht mehr den zweiten oder dritten Kommentar ab, sondern zeigen die verschärfte Warnung schon beim ersten Mal.

Diese Warnungen haben sich als effektiv erwiesen. Letzte Woche zum Beispiel haben wir rund eine Million Mal pro Tag Nutzer*innen davor gewarnt, potenziell anstößige Kommentare zu posten. 50 % von ihnen haben daraufhin ihren Kommentar bearbeitet oder entfernt.

Vorgehen gegen missbräuchliche Direktnachrichten und Kommentare

Um Menschen vor missbräuchlichen Nachrichtenanfragen zu schützen, haben wir vor Kurzem die Funktion „Nachrichten/Kommentare verbergen“ angekündigt, mit der Nachrichten nach anstößigen Wörtern, Ausdrücken und Emojis gefiltert werden können. Diese Nachrichten werden in einem Ordner für verborgene Nachrichtenanfragen abgelegt, den man niemals öffnen muss. Auch Nachrichtenanfragen, bei denen es sich wahrscheinlich um Spam handelt, werden so herausgefiltert. Nachdem wir diese Funktion Anfang des Jahres in ausgewählten Ländern eingeführt haben, werden wir sie bis Ende dieses Monats weltweit verfügbar machen. Mit Hinweisen sowohl in ihrem Postfach als auch in Stories möchten wir besonders Konten mit vielen Abonnent*innen dazu animieren, das Feature zu aktivieren.

Wir haben die Liste mit potenziell anstößigen Wörtern, Hashtags und Emojis erweitert, nach denen wir Kommentare automatisch filtern, und werden sie auch weiterhin regelmäßig aktualisieren. Seit Kurzem können sich Nutzer*innen auch dazu entscheiden, die zusätzliche Option „Weitere Kommentare verbergen“ zu aktivieren und so potenziell schädliche Kommentare verbergen, selbst wenn diese nicht gegen unsere Regeln verstoßen.

Der Kampf gegen Missbrauch im Internet geht weiter

Mit diesen neuen Funktionen hoffen wir, Menschen noch besser vor rassistischen, sexistischen, homophoben und anderen missbräuchlichen Inhalten schützen zu können. Natürlich gibt es noch einiges zu tun. Zum Beispiel verbessern wir weiter unsere Systeme, um missbräuchliche Inhalte schneller zu identifizieren bzw. zu entfernen und die Verfasser*innen zur Verantwortung zu ziehen. Unser Ziel ist es, Hass auf unserer Plattform mit allen Mitteln zu bekämpfen. Uns ist aber auch bewusst, dass wir dieses Problem nicht alleine aus der Welt schaffen können. Wir unterstützen auch zukünftig Organisationen, die sich gegen Rassismus und für Gleichberechtigung einsetzen. Gemeinsam mit Branchenvertretern, Regierungen und gemeinnützigen Organisationen wollen wir Menschen aufklären und dem Hass so ein Ende bereiten. Dieses Ziel werden wir nicht aus den Augen verlieren – und weiterhin von unseren Fortschritten berichten.

MEHR ZUM THEMA

Weitere Ankündigungen aus dem Bereich Instagram