Ein Update zu unserer Arbeit im Kampf gegen Missbrauch auf Instagram

Instagram soll ein Ort sein, an dem Nutzer*innen sich mit den Menschen und Dingen verbinden, die ihnen am Herzen liegen. Uns ist jedoch bewusst, dass es auch hier zu Missbrauch kommen kann – genau wie abseits des Internets. Ein Beispiel dafür sind die jüngsten rassistischen Ausschreitungen gegen Fußballspieler im Vereinigten Königreich. Derartiges Verhalten ist auf Instagram unerwünscht.

Oft erhalten Nutzer*innen solche Beleidigungen per Direct-Nachricht. Dort ist das Problem schwieriger zu lösen als in Instagram-Kommentaren. In Direct-Nachrichten finden private Unterhaltungen statt. Deshalb kommt hier, anders als sonst, keine Technologie zum Einsatz, um Hassrede oder Mobbing proaktiv aufzuspüren. Trotzdem können wir andere Schritte ergreifen, um dieses Verhalten zu unterbinden. Daher verkünden wir heute neue Maßnahmen im Kampf gegen den Missbrauch in Direct-Nachrichten. Beispielsweise löschen wir die Konten von Nutzer*innen, die missbräuchliche Nachrichten senden, und entwickeln neue Kontrolloptionen.

Unsere Haltung zu Hassrede

Entsprechend unseren Regeln gegen Hassrede dulden wir keine persönlichen Angriffe, bei denen geschützte Eigenschaften wie ethnische Zugehörigkeit oder Religion eine Rolle spielen. Diese Regeln wurden im letzten Jahr verschärft. Seitdem sind auch indirektere Formen der Hassrede verboten, etwa Abbildungen von Blackfacing oder antisemitischen Klischees. Wir handeln bei Hassrede sofort, wenn wir von entsprechenden Inhalten erfahren. Außerdem verbessern wir ständig die Erkennung, um sie schneller zu identifizieren. Im vergangenen Jahr mussten wir zwischen Juli und September 6,5 Millionen Mal wegen Hassrede auf Instagram aktiv werden. Dazu zählen auch Direct-Nachrichten – hier konnten wir 95 % der Fälle identifizieren, noch bevor sie gemeldet wurden.

Strengere Strafen für Nutzer*innen, die missbräuchliche Nachrichten versenden

Ab heute werden wir härter durchgreifen, wenn wir von Nutzer*innen erfahren, die in Direct-Nachrichten gegen unsere Regeln verstoßen. Senden Nutzer*innen Direct-Nachrichten, die gegen unsere Regeln verstoßen, können sie derzeit für einen bestimmten Zeitraum keine weiteren Nachrichten mehr senden. Zukünftig werden die Konten dieser Nutzer*innen deaktiviert, wenn sie weiterhin unzulässige Nachrichten senden. Außerdem deaktivieren wir neue Konten, die erstellt wurden, um unsere Nachrichten-Beschränkungen zu umgehen. Sollten wir feststellen, dass Konten nur erstellt wurden, um missbräuchliche Nachrichten zu senden, werden diese ebenfalls deaktiviert.

Zusammenarbeit mit Strafverfolgungsbehörden

Im Kampf gegen Hassrede arbeiten wir zudem eng mit den britischen Behörden zusammen und werden in solchen Fällen begründeten rechtlichen Anfragen nachkommen bzw. Auskunft erteilen. Wie bei allen Anfragen von Strafverfolgungsbehörden werden wir uns auch hier zur Wehr setzen, sollten diese zu weitreichend sein, gegen Menschenrechte oder geltendes Recht verstoßen.

Tools zur besseren Kontrolle deines Erlebnisses

Auch für Instagram-Kommentare steht eine Reihe von Tools zum Schutz unserer Nutzer*innen zur Verfügung. Mit Kommentarfiltern können Nutzer*innen verhindern, dass andere Personen anstößige Kommentare hinterlassen, die unerwünschte Begriffe, Ausdrücke oder Emojis enthalten. Im letzten Jahr haben wir ein neues Feature angekündigt, um mehrere unerwünschte Kommentare auf einmal zu verwalten. Damit können die entsprechenden Kommentare gleichzeitig gelöscht oder die dazugehörigen Konten blockiert werden. Seit der Einführung einer KI, die Nutzer*innen warnt, wenn sie potenziell verletzende Inhalte posten wollen, konnten wir ebenfalls einen deutlichen Rückgang anstößiger Kommentare verzeichnen.

Bei Direct-Nachrichten handelt es sich um private Unterhaltungen. Deshalb ist es hier schwieriger, Personen vor Hassrede und Belästigung zu schützen. Business- und Creator*innen-Konten erhalten im Allgemeinen besonders viele Nachrichten von Follower*innen und gleichzeitig die meisten missbräuchlichen Nachrichten von Unbekannten. Für sie gibt es daher die Möglichkeit, Direct-Nachrichten von Personen zu deaktivieren, denen sie selbst nicht folgen. In vielen Ländern stehen diese Kontrollmöglichkeiten auch persönlichen Konten zur Verfügung und wir hoffen, sie bald allen Nutzer*innen anbieten zu können. Nutzer*innen haben außerdem die Möglichkeit, Markierungen und Erwähnungen von unbekannten Personen zu deaktivieren oder Menschen zu blockieren, die ihnen unerwünschte Nachrichten senden.

Im Dialog mit unserer Community wurde allzu deutlich, wie belastend es sein kann, missbräuchliche Direct-Nachrichten überhaupt zu erhalten. Daher arbeiten wir gerade an einem neuen Feature, welches das Feedback unserer Community berücksichtigt und genau dieses Problem lösen soll. Die neue Funktion soll innerhalb der nächsten Monate eingeführt werden.

Unser Ziel ist es, Hass und Rassismus auf unserer Plattform mit allen Mitteln zu bekämpfen. Uns ist aber auch bewusst, dass wir dieses Problem nicht allein aus der Welt schaffen können. Deshalb freuen wir uns auf eine erfolgreiche Zusammenarbeit mit Unternehmen, Fußballverbänden, Nichtregierungsorganisationen, Behörden, Eltern und Pädagog*innen – sowohl online als auch offline.