Neue Tools zum Schutz der Community vor missbräuchlichen Inhalten

21. April 2021

Wir haben vor Kurzem ein Update dazu veröffentlicht, wie wir Missbrauch und Hassrede auf Instagram bekämpfen. Unter anderem gelten nun härtere Strafen für Nutzer*innen, die missbräuchliche Direktnachrichten versenden. Heute stellen wir eine neue Möglichkeit vor, mit der du dich vor missbräuchlichen Direktnachrichten schützen kannst, ohne sie lesen zu müssen. Außerdem kannst du jetzt verhindern, dass dich Nutzer*innen, die du blockiert hast, über ein neues Konto kontaktieren.

Neue Funktion zum Herausfiltern von unerwünschten Nachrichten

Beispiel für die Funktion „Nachrichten/Kommentare verbergen“ auf einem Smartphone.

Missbräuchliche Inhalte – egal, ob rassistisch, sexistisch, homophob oder jeglicher anderer Art – können Menschen schwer verletzen. Deshalb wollen wir verhindern, dass Nutzer*innen auf Instagram solchen Inhalten ausgesetzt sind. Doch der Kampf gegen Missbrauch ist eine komplexe Herausforderung, die nicht mithilfe einer einzigen Maßnahme erledigt ist. Wir wissen beispielsweise, dass einige Nutzer*innen in unserer Community missbräuchliche Direktnachrichten von Personen erhalten, die sie nicht abonniert haben. Das betrifft besonders Nutzer*innen mit vielen Abonnenten.

Da es sich bei Direktnachrichten um private Unterhaltungen handelt, durchsuchen wir sie – anders als andere Inhalte auf Instagram – nicht aktiv auf Hassrede oder Mobbing. Deshalb führen wir jetzt ein neues Tool ein, das Nachrichtenanfragen, die beleidigende Wörter, Ausdrücke oder Emojis enthalten, automatisch herausfiltert. Wenn du die Funktion aktivierst, werden dir solche Nachrichten nicht mehr angezeigt. Das Tool konzentriert sich auf Nachrichtenanfragen, da Nutzer*innen über solche am häufigsten missbräuchliche Nachrichten erhalten. Direktnachrichten von bestehenden Kontakten werden nicht gefiltert, da sie von vertrauten Menschen stammen, mit denen du schon Kontakt hast. Die Funktionsweise ist ähnlich wie bei den bereits vorhandenen Kommentarfiltern, mit denen du unerwünschte Kommentare ausblenden und Begriffe festlegen kannst, von denen du nicht möchtest, dass sie in den Kommentaren unter deinen Beiträgen verwendet werden. Du kannst sowohl die Kommentarfilter als auch die Filter für Nachrichtenanfragen in den Privatsphäre-Einstellungen im neuen Bereich „Nachrichten/Kommentare verbergen“ aktivieren bzw. deaktivieren.

In Zusammenarbeit mit führenden Organisationen, die sich gegen Diskriminierung und Mobbing einsetzen, haben wir eine voreingestellte Liste mit beleidigenden Begriffen erarbeitet, die in Nachrichtenanfragen herausgefiltert werden, sobald die Funktion aktiviert ist. Uns ist bewusst, dass jeder Mensch unterschiedliche Begriffe als verletzend empfinden kann. Deshalb hast du auch die Option, eine eigene benutzerdefinierte Liste mit Wörtern, Sätzen oder Emojis zu erstellen, die du in deinen Nachrichtenanfragen nicht sehen möchtest. Alle Nachrichtenanfragen, die die beleidigenden Wörter, Sätze oder Emojis aus deiner benutzerdefinierten Liste oder der voreingestellten Liste enthalten, werden automatisch herausgefiltert und in einem separaten Ordner für verborgene Nachrichtenanfragen abgelegt. Wenn du diesen Ordner öffnest, wird der Text der Nachricht zu deinem Schutz verdeckt. Er wird erst sichtbar, wenn du den Text antippst. Du hast dann die Möglichkeit, die Nachrichtenanfrage zu akzeptieren, zu löschen oder zu melden.

Diese neue Funktion wurde entwickelt, um dich vor möglichen beleidigenden oder missbräuchlichen Nachrichtenanfragen zu bewahren und gleichzeitig deine Privatsphäre zu schützen. Die Nachrichten werden auf deinem eigenen Gerät gefiltert. Die Funktion sendet also keine Inhalte aus deinen Nachrichten an unsere Server zurück. Wenn du die Funktion nutzt, werden die Inhalte der Nachrichtenanfragen nicht mit uns geteilt, es sei denn, du meldest sie.

Wir werden die Funktion in den kommenden Wochen in mehreren Ländern einführen und im Laufe der nächsten Monate in zusätzlichen Länder verfügbar machen.

Neuer Schutz vor unerwünschten Kontakten

Beispiel für das Blockieren mehrerer Konten auf einem Smartphone.

Zusätzlich sorgen wir dafür, dass es für Personen, die du bereits blockiert hast, schwieriger wird, dich über ein neues Konto zu kontaktieren. Wenn du jetzt jemanden auf Instagram blockierst, hast du so die Möglichkeit, sowohl das aktuelle Konto als auch präventiv alle neuen Konten zu blockieren, die der*die Nutzer*in möglicherweise in Zukunft erstellt. In den kommenden Wochen wird diese Funktion weltweit verfügbar.

Diese Möglichkeit ergänzt unsere Richtlinien gegen Belästigung, die es Personen bereits verbieten, andere Nutzer*innen wiederholt zu kontaktieren, wenn diese keinen Kontakt mit ihnen haben möchten. Wir gehen auch gegen wiederholte Verstöße vor. Wenn ein Konto aufgrund von Regelverletzungen deaktiviert wurde, entfernen wir auch alle neuen Konten, die der*die Nutzer*in erstellt, sobald wir Kenntnis von ihnen erlangen.

Fortgesetzter Einsatz gegen beleidigende Kommentare

Neben unserer Technologie zur proaktiven Identifizierung von verletzenden Kommentaren stehen dir mehrere Tools zur Verfügung, mit denen du gegen unerwünschtes Verhalten in deinen Kommentaren vorgehen kannst. Wenn du ein öffentliches Konto hast, kannst du festlegen, dass nur Nutzer*innen, denen du folgst oder die dir folgen, Kommentare zu deinen Beiträgen posten können.

Wir beginnen auch damit, häufige falsche Schreibweisen von beleidigenden Wörtern aus deiner manuellen Liste zum Filtern von Kommentaren zu berücksichtigen. Das soll dabei helfen, dass unerwünschte Wörter auch dann nicht angezeigt werden, wenn sie unbeabsichtigt oder absichtlich falsch geschrieben wurden.

Wir wissen, dass es im Kampf gegen Mobbing und Missbrauch im Internet noch mehr für uns zu tun gibt – und wir werden unsere Anstrengungen fortsetzen. Dabei werden wir auch in Zukunft mit Expert*innen, Branchenorganisationen, Jugendlichen, Creator*innen und Personen des öffentlichen Lebens zusammenarbeiten, um ihre Erfahrungen auf Instagram besser zu verstehen und herauszufinden, wie wir unsere Richtlinien und Produkte weiterentwickeln können, um alle Nutzer*innen online vor Missbrauch zu schützen.

MEHR ZUM THEMA

Weitere Ankündigungen aus dem Bereich Instagram