Neue Tools zum Schutz der Community vor missbräuchlichen Inhalten

Aktualisiert am 30. Mai 2024: Wir haben das Feature „Limitieren“ erweitert, damit unsere Nutzer*innen – insbesondere Teens – mehr Möglichkeiten haben, sich gegen Mobbing zu wehren. Nutzer*innen können Interaktionen jetzt vorübergehend limitieren und sehen dann nur die Kommentare, Chats, Markierungen und Erwähnungen ihrer engen Freund*innen.

Heute stellen wir eine Reihe neuer Funktionen vor, die dem Schutz unserer Nutzer*innen auf Instagram vor missbräuchlichen Inhalten dienen.

• Wenn Nutzer*innen bei gesteigerter Aufmerksamkeit kurzzeitig vermehrt Kommentare und Nachrichtenanfragen erhalten, können sie diese limitieren.
• Nutzer*innen erhalten verschärfte Warnungen, wenn sie versuchen, potenziell anstößige Kommentare zu posten.
• Die Funktion „Nachrichten/Kommentare verbergen“, mit der Nutzer*innen missbräuchliche Nachrichtenanfragen herausfiltern können, führen wir jetzt weltweit ein.

Es liegt an uns, dafür zu sorgen, dass sich alle Menschen auf Instagram sicher fühlen. Wir tolerieren weder Hassrede noch Mobbing. Finden wir auf Instagram derartige Inhalte, entfernen wir sie umgehend. Zum Schutz unserer Community möchten wir darüber hinaus verhindern, dass solche missbräuchlichen Inhalte überhaupt ein Publikum finden. Dazu orientieren wir uns am Feedback von Expert*innen und aus unserer Community, um neue Funktionen zu entwickeln, die unsere Nutzer*innen vor Missbrauch schützen und ihnen mehr Kontrolle über ihr Nutzungserlebnis auf Instagram geben.

Limitieren: Einfacher Schutz vor unerwünschten Kommentaren und Direktnachrichten

Mit unserer neuen Funktion Limitieren können sich Nutzer*innen schützen, die einer plötzlichen Flut an missbräuchlichen Kommentaren oder Nachrichtenanfragen ausgesetzt sind bzw. eine solche erwarten. Das Feature ist einfach zu aktivieren und verbirgt automatisch Kommentare und Nachrichtenanfragen von Personen, die dir nicht oder erst seit Kurzem folgen.

Diese Funktion haben wir entwickelt, weil wir von Creator*innen und Personen des öffentlichen Lebens gehört haben, dass sie manchmal kurzzeitig vermehrt Kommentare und Nachrichtenanfragen von Unbekannten erhalten. Meist handelt es sich dabei um positive Nachrichten und Unterstützung – etwa für Medaillengewinner*innen bei den Olympischen Spielen. Manchmal häufen sich aber vorübergehend auch unerwünschte Kommentare und Nachrichten. Wenn du gerade eine solche Häufung erlebst oder erwartest, kannst du jetzt die Funktion Limitieren aktivieren und das Problem so abstellen.

Unsere Forschung zeigt, dass Negativität gegenüber Personen des öffentlichen Lebens meist von Menschen stammt, die ihnen gar nicht oder erst seit Kurzem folgen, und die schlichtweg eine günstige Gelegenheit wittern, sich abwertend zu äußern. Das war zuletzt nach dem Finale der Fußball-EM 2020 zu beobachten. Dabei kam es kurzzeitig zu einem deutlichen und inakzeptablen Anstieg rassistischer Beleidigungen gegenüber einzelnen Spielern. Wir wissen aber auch, dass viele Creator*innen ihre Kommentare und Nachrichten nicht vollständig deaktivieren wollen, damit sie weiterhin den direkten Kontakt mit ihrer Community pflegen können. Mithilfe der Funktion Limitieren können sie jetzt die Kontaktaufnahme durch Personen mit potenziell bösartigen Absichten unterbinden, ohne den Austausch mit ihren treuen Follower*innen einzuschränken.

Ab heute ist Limitieren für alle Instagram-Nutzer*innen weltweit verfügbar. Du kannst die Option jederzeit in deinen Privatsphäre-Einstellungen aktivieren oder deaktivieren. Außerdem erforschen wir neue Möglichkeiten, plötzliche Anstiege bei Kommentaren und Direktnachrichten automatisch zu erkennen und unseren Nutzer*innen daraufhin vorzuschlagen, die Limitieren-Funktion zu aktivieren.

Verschärfte Warnungen, um Belästigungen entgegenzuwirken

Schon heute wird eine Warnung angezeigt, wenn jemand auf Instagram versucht, potenziell anstößige Kommentare zu posten. Versucht die Person wiederholt, potenziell anstößige Kommentare zu posten, blenden wir eine verschärfte Warnung ein, in der wir auf unsere Gemeinschaftsrichtlinien verweisen und den*die Nutzer*in warnen, dass der Kommentar möglicherweise entfernt oder verborgen wird. Zukünftig warten wir nicht mehr den zweiten oder dritten Kommentar ab, sondern zeigen die verschärfte Warnung schon beim ersten Mal.

Diese Warnungen haben sich als effektiv erwiesen. Letzte Woche zum Beispiel haben wir rund eine Million Warnungen pro Tag eingeblendet, wenn Nutzer*innen im Begriff waren, potenziell anstößige Kommentare zu posten. In ca. 50 % der Fälle wurde der Kommentar daraufhin bearbeitet oder entfernt.

Gegen Missbrauch in Direktnachrichten und Kommentaren

Um Menschen vor Missbrauch in Nachrichtenanfragen zu schützen, haben wir vor Kurzem die Funktion „Nachrichten/Kommentare verbergen“ angekündigt. Damit kannst du Nachrichten, die anstößige Wörter, Ausdrücke oder Emojis enthalten, automatisch herausfiltern und in einem speziellen Ordner ablegen, den du nie zu öffnen brauchst. Auch Nachrichtenanfragen, bei denen es sich wahrscheinlich um Spam handelt, werden so herausgefiltert. Nachdem wir diese Funktion Anfang des Jahres in ausgewählten Ländern eingeführt haben, werden wir sie bis Ende dieses Monats weltweit verfügbar machen. Mit Hinweisen sowohl in ihrem Postfach als auch in Stories möchten wir besonders Konten mit vielen Follower*innen dazu animieren, das Feature zu aktivieren.

Die Liste mit potenziell anstößigen Wörtern, Hashtags und Emojis, nach denen wir Kommentare automatisch filtern, haben wir erweitert und wir werden sie auch weiterhin regelmäßig aktualisieren. Seit Kurzem können Nutzer*innen auch die zusätzliche Option „Weitere Kommentare verbergen“ aktivieren und so potenziell schädliche Kommentare verbergen, selbst wenn diese nicht gegen unsere Regeln verstoßen.

Unser Kampf gegen Beleidigungen im Internet geht weiter

Mit diesen neuen Funktionen möchten wir unsere Nutzer*innen noch besser vor rassistischen, sexistischen, homophoben und anderen beleidigenden Inhalten schützen. Wir wissen, dass es noch einiges zu tun gibt. Zum Beispiel möchten wir unsere Systeme weiter verbessern, um beleidigende Inhalte schneller zu finden und zu entfernen, und die Verfasser*innen zur Verantwortung zu ziehen. Unser Ziel ist es, Hass auf unserer Plattform mit allen Mitteln zu bekämpfen. Uns ist aber auch bewusst, dass wir dieses Problem nicht allein aus der Welt schaffen können. Wir werden weiterhin Organisationen unterstützen, die sich gegen Rassismus und für Gleichberechtigung einsetzen. Gemeinsam mit Branchenvertreter*innen, Regierungen und gemeinnützigen Organisationen wollen wir die Menschen aufklären und dem Hass so ein Ende setzen. Dieses Ziel werden wir nicht aus den Augen verlieren – und weiterhin von unseren Fortschritten berichten.