Neue Tools zum Schutz der Community vor missbräuchlichen Inhalten

Wir haben vor Kurzem ein Update dazu veröffentlicht, wie wir Missbrauch und Hassrede auf Instagram bekämpfen. Unter anderem gelten nun härtere Strafen für Nutzer*innen, die missbräuchliche Direktnachrichten versenden. Heute stellen wir eine neue Möglichkeit vor, mit der du dich vor missbräuchlichen Direktnachrichten schützen kannst, ohne sie lesen zu müssen. Außerdem kannst du jetzt verhindern, dass dich Nutzer*innen, die du blockiert hast, über ein neues Konto kontaktieren.

Ein neues Feature, mit dem du missbräuchliche Nachrichten herausfiltern kannst

Missbräuchliche Inhalte – egal, ob rassistisch, sexistisch, homophob oder jeglicher anderer Art – können Menschen schwer verletzen. Deshalb wollen wir verhindern, dass Nutzer*innen auf Instagram solchen Inhalten ausgesetzt sind. Doch der Kampf gegen Missbrauch ist eine komplexe Herausforderung, die nicht mithilfe einer einzigen Maßnahme erledigt ist. Wir wissen beispielsweise, dass einige Nutzer*innen in unserer Community missbräuchliche Direktnachrichten von Personen erhalten, denen sie nicht folgen. Das betrifft besonders Nutzer*innen mit vielen Follower*innen.

Da es sich bei Direktnachrichten um private Unterhaltungen handelt, überprüfen wir sie – anders als andere Inhalte auf Instagram – nicht aktiv auf Hassrede oder Mobbing. Deshalb führen wir jetzt ein neues Tool ein, das Nachrichtenanfragen, die beleidigende Wörter, Ausdrücke oder Emojis enthalten, automatisch herausfiltert. Wenn du die Funktion aktivierst, werden dir solche Nachrichten nicht mehr angezeigt. Das Tool konzentriert sich auf Nachrichtenanfragen, da Nutzer*innen über solche am häufigsten missbräuchliche Nachrichten erhalten. Direktnachrichten von bestehenden Kontakten werden nicht gefiltert, da sie von vertrauten Menschen stammen, mit denen du schon Kontakt hast. Die Funktionsweise ist ähnlich wie bei den bereits vorhandenen Kommentarfiltern, mit denen du unerwünschte Kommentare ausblenden und Begriffe festlegen kannst, von denen du nicht möchtest, dass sie in den Kommentaren unter deinen Beiträgen verwendet werden. Du kannst sowohl die Kommentarfilter als auch die Filter für Nachrichtenanfragen in den Privatsphäre-Einstellungen im neuen Bereich „Nachrichten/Kommentare verbergen“ aktivieren bzw. deaktivieren.

In Zusammenarbeit mit führenden Organisationen, die sich gegen Diskriminierung und Mobbing einsetzen, haben wir eine voreingestellte Liste mit beleidigenden Begriffen erarbeitet, die in Nachrichtenanfragen herausgefiltert werden, sobald die Funktion aktiviert ist. Uns ist bewusst, dass jeder Mensch unterschiedliche Begriffe als verletzend empfinden kann. Deshalb hast du auch die Option, eine selbstdefinierte Liste mit Wörtern, Ausdrücken und Emojis zu erstellen, die du in deinen Nachrichtenanfragen nicht sehen möchtest. Alle Nachrichtenanfragen, die beleidigende Wörter, Ausdrücke oder Emojis aus deiner selbstdefinierten Liste oder der voreingestellten Liste enthalten, werden automatisch herausgefiltert und in einem separaten Ordner für verborgene Anfragen abgelegt. Wenn du diesen Ordner öffnest, wird der Text der Nachricht zu deinem Schutz verdeckt. Er wird erst sichtbar, wenn du den Text antippst. Du hast dann die Möglichkeit, die Nachrichtenanfrage zu akzeptieren, zu löschen oder zu melden.

Diese neue Funktion wurde entwickelt, um dich vor möglichen beleidigenden oder missbräuchlichen Nachrichtenanfragen zu bewahren und gleichzeitig deine Privatsphäre zu schützen. Die Nachrichten werden auf deinem eigenen Gerät gefiltert. Die Funktion sendet also keine Inhalte aus deinen Nachrichten an unsere Server zurück. Wenn du die Funktion nutzt, werden die Inhalte der Nachrichtenanfragen nicht mit uns geteilt, es sei denn, du meldest sie.

In den kommenden Wochen werden wir die Funktion in mehreren Ländern einführen und im Laufe der nächsten Monate in zusätzlichen Ländern verfügbar machen.

Ein neues Tool zum Schutz vor unerwünschten Kontakten

Zusätzlich erschweren wir es Personen, die du bereits blockiert hast, dich über ein neues Konto zu kontaktieren. Wenn du jetzt eine*n Nutzer*in auf Instagram blockierst, hast du die Möglichkeit, sowohl sein*ihr aktuelles Konto zu blockieren als auch präventiv alle neuen Konten, die er*sie möglicherweise in Zukunft erstellt. In den kommenden Wochen wird diese Funktion weltweit verfügbar sein.

Diese Möglichkeit ergänzt unsere bestehenden Richtlinien gegen Belästigung, die es Personen verbieten, andere Nutzer*innen wiederholt zu kontaktieren, die keinen Kontakt mit ihnen haben möchten. Wir gehen auch gegen wiederholte Verstöße vor: Wenn ein Konto aufgrund von Regelverletzungen deaktiviert wurde, entfernen wir auch alle neuen Konten, die der*die Nutzer*in erstellt, sobald wir Kenntnis von ihnen erlangen.

Unsere Arbeit gegen anstößige Kommentare geht weiter

Neben unserer Technologie zur proaktiven Identifizierung von verletzenden Kommentaren stehen dir mehrere Tools zur Verfügung, mit denen du gegen unerwünschtes Verhalten in deinen Kommentaren vorgehen kannst. Wenn du ein öffentliches Konto hast, kannst du festlegen, dass nur Nutzer*innen, denen du folgst oder die dir folgen, Kommentare zu deinen Beiträgen posten können.

Wir beginnen auch damit, häufig verwendete falsche Schreibweisen von beleidigenden Wörtern aus deiner persönlichen Liste zum Filtern von Kommentaren zu berücksichtigen. Das soll dabei helfen, dass unerwünschte Wörter auch dann nicht angezeigt werden, wenn sie versehentlich oder absichtlich falsch geschrieben wurden.

Wir wissen, dass es im Kampf gegen Mobbing und Missbrauch im Internet noch mehr für uns zu tun gibt – und wir werden unsere Anstrengungen fortsetzen. Dabei werden wir auch in Zukunft mit Expert*innen, Branchenorganisationen, Jugendlichen, Creator*innen und Personen des öffentlichen Lebens zusammenarbeiten, um ihre Erfahrungen auf Instagram besser zu verstehen und herauszufinden, wie wir unsere Richtlinien und Produkte weiterentwickeln können, um alle Nutzer*innen online vor Missbrauch zu schützen.