Aktuelles zu unserem Engagement gegen Missbrauch auf Instagram

10. Februar 2021

Instagram soll ein Ort sein, an dem Nutzer sich mit den Menschen und Dingen verbinden, die ihnen am Herzen liegen. Uns ist jedoch bewusst, dass es auch hier zu Missbrauch kommen kann – genau wie abseits des Internets. Ein Beispiel dafür sind die jüngsten rassistischen Ausschreitungen gegen Fußballspieler im Vereinigten Königreich. Derartiges Verhalten ist auf Instagram unerwünscht.

Oft erhalten Nutzer solche Beleidigungen per Direct-Nachricht. Dort ist das Problem schwieriger zu lösen als in Instagram-Kommentaren. In Direct-Nachrichten finden private Unterhaltungen statt. Deshalb kommt hier, anders als sonst, keine Technologie zum Einsatz, um Hassrede oder Mobbing proaktiv aufzuspüren. Trotzdem können wir andere Schritte ergreifen, um dieses Verhalten zu unterbinden. Daher verkünden wir heute neue Maßnahmen im Kampf gegen den Missbrauch in Direct-Nachrichten. Beispielsweise löschen wir die Konten von Nutzern, die missbräuchliche Nachrichten senden, und entwickeln neue Kontrolloptionen.


Unsere Haltung zu Hassrede

Entsprechend unseren Regeln gegen Hassrede dulden wir keine persönlichen Angriffe, bei denen geschützte Eigenschaften wie ethnische Zugehörigkeit oder Religion eine Rolle spielen. Diese Regeln wurden im letzten Jahr verschärft. Seitdem sind auch indirektere Formen der Hassrede verboten, etwa Abbildungen von Blackfacing oder antisemitischen Klischees. Wir handeln bei Hassrede sofort, wenn wir von entsprechenden Inhalten erfahren. Außerdem verbessern wir ständig die Erkennung, um sie schneller zu identifizieren. Im vergangenen Jahr mussten wir zwischen Juli und September 6,5 Millionen Mal wegen Hassrede auf Instagram aktiv werden. Dazu zählen auch Direct-Nachrichten – hier konnten wir 95 % der Fälle identifizieren, noch bevor sie gemeldet wurden.


Härtere Strafen für die Verfasser missbräuchlicher Nachrichten

Heute geben wir ein strengeres Vorgehen gegen Menschen bekannt, die in Direct-Nachrichten gegen unsere Regeln verstoßen. Sendet ein Nutzer Direct-Nachrichten, die gegen unsere Regeln verstoßen, kann er derzeit für einen bestimmten Zeitraum keine weiteren Nachrichten mehr senden. Zukünftig wird das Konto des Nutzer deaktiviert, wenn er weiterhin unzulässige Nachrichten sendet. Außerdem deaktivieren wir neue Konten, die erstellt wurden, um unsere Nachrichten-Beschränkungen zu umgehen. Sollten wir feststellen, dass Konten nur erstellt wurden, um missbräuchliche Nachricht zu senden, werden diese ebenfalls deaktiviert.


Zusammenarbeit mit Strafverfolgungsbehörden

Im Kampf gegen Hassrede arbeiten wir zudem eng mit den britischen Behörden zusammen und werden in solchen Fällen begründeten rechtlichen Anfragen nachkommen bzw. Auskunft erteilen. Wie bei allen Anfragen von Strafverfolgungsbehörden werden wir uns auch hier zur Wehr setzen, sollten diese zu weitreichend sein, gegen Menschenrechte oder geltendes Recht verstoßen.


Tools für den Nutzer

Wir bieten Nutzern darüber hinaus verschiedene Tools, um sich im Hinblick auf Instagram-Kommentare selbst zu schützen. Mit Kommentarfiltern können Nutzer verhindern, dass andere Personen anstößige Kommentare hinterlassen, die unerwünschte Begriffe, Ausdrücke oder Emojis enthalten. Im letzten Jahr haben wir ein neues Feature angekündigt, um mehrere unerwünschte Kommentare auf einmal zu verwalten. Damit können die entsprechenden Kommentare gleichzeitig gelöscht oder die dazugehörigen Konten blockiert werden. Seit der Einführung einer KI, die Nutzer warnt, wenn sie potenziell verletzende Inhalte posten wollen, konnten wir ebenfalls einen deutlichen Rückgang anstößiger Kommentare verzeichnen.

Bei Direct-Nachrichten handelt es sich um private Unterhaltungen. Deshalb ist es hier schwieriger, Personen vor Hassrede und Belästigung zu schützen. Business- und Creator-Konten erhalten im Allgemeinen besonders viele Nachrichten von Abonnenten und gleichzeitig die meisten missbräuchlichen Nachrichten von Unbekannten. Für sie gibt es daher die Möglichkeit, Direct-Nachrichten von Personen zu deaktivieren, die sie nicht selbst abonniert haben. In vielen Ländern stehen diese Kontrollmöglichkeiten auch persönlichen Konten zur Verfügung und wir hoffen, sie bald jedem Nutzer anbieten zu können. Nutzer haben außerdem die Möglichkeit, Markierungen und Erwähnungen von unbekannten Personen zu deaktivieren oder Menschen zu blockieren, die ihnen unerwünschte Nachrichten senden.

Im Dialog mit unserer Community wurde allzu deutlich, wie belastend es sein kann, missbräuchliche Direct-Nachrichten überhaupt zu erhalten. Daher arbeiten wir gerade an einem neuen Feature, welches das Feedback unserer Community berücksichtigt und genau dieses Problem lösen soll. Die neue Funktion soll innerhalb der nächsten Monate eingeführt werden.

Unser Ziel ist es, Hass und Rassismus auf unserer Plattform mit allen Mitteln zu bekämpfen. Uns ist aber auch bewusst, dass wir dieses Problem nicht allein aus der Welt schaffen können. Deshalb freuen wir uns auf eine erfolgreiche Zusammenarbeit mit Unternehmen, Fußballverbänden, Nichtregierungsorganisationen, Behörden, Eltern und Pädagogen – sowohl online als auch offline.

MEHR ZUM THEMA

Weitere Ankündigungen aus dem Bereich Instagram