Unsere Neuerungen für noch mehr Sicherheit und Unterstützung von besonders schutzbedürftigen Instagram-Nutzer*innen

Für uns bei Instagram steht der Schutz aller Menschen in unserer Community an oberster Stelle. In den letzten vier Wochen haben wir gesehen, dass unsere Bemühungen in Bezug auf Selbstverletzung und Suizid nicht ausreichen und wir mehr zum Schutz der besonders schutzbedürftigen Instagram-Nutzer*innen tun müssen.

Nach einer umfassenden Überprüfung unter Beteiligung von internationalen Expert*innen und Wissenschaftler*innen aus den Bereichen psychische Gesundheit und Suizidprävention bei Jugendlichen möchten wir daher heute weitere Änderungen an unserem Konzept für Inhalte mit Selbstverletzungsbezug vorstellen:

Das ist neu

1. Explizite Darstellungen von selbstverletzendem Verhalten, z. B. Ritzen, sind auf Instagram nicht gestattet. Bisher waren sie erlaubt, wenn jemand damit auf persönliche Probleme aufmerksam machen wollte. Beiträge, in denen Suizid oder selbstverletzendes Verhalten befürwortet wird oder andere darin bestärkt werden, waren schon immer untersagt. Diese Inhalte werden wir auch weiterhin entfernen, wenn sie uns gemeldet werden.
2. In der Suche, in Hashtags und im Tab „Explore“ werden keine nicht expliziten Inhalte mit Selbstverletzungsbezug angezeigt – z. B. verheilte Narben – und wir empfehlen solche Inhalte auch nicht. Wir werden diesen Content aber nicht komplett aus Instagram entfernen, da wir Menschen, die sich in einer Notlage befinden und selbstverletzende Inhalte als Hilferuf posten, nicht stigmatisieren oder ausgrenzen möchten.
3. Wir möchten Menschen unterstützen, die Hilfe benötigen. Nutzer*innen, die Beiträge mit Selbstverletzungsbezug posten oder nach solchen Inhalten suchen, werden wir daher vorrangig mehr Ressourcen zur Verfügung stellen und sie zu Organisationen weiterleiten, die ihnen helfen können.
4. Wir sind weiterhin im Dialog mit Expert*innen, um herauszufinden, was wir noch tun können. Eine Möglichkeit wäre, alle nicht expliziten Inhalte mit Selbstverletzungsbezug mit einem Filter für sensible Inhalte unkenntlich zu machen, damit diese Bilder nicht unmittelbar sichtbar sind.

Das richtige Maß finden

Selbstverletzendes Verhalten und Suizid sind komplexe Themen und wir sind in diesen Bereichen auf den Input von Fachleuten angewiesen, um unseren Ansatz zu gestalten. Bisher stand bei unserem Konzept die Hilfe für Einzelpersonen, die ihre Erfahrungen mit selbstverletzendem Verhalten teilen, im Mittelpunkt. Wir haben Inhalte zugelassen, in denen Nutzer*innen Selbstverletzung erwägen oder davon berichten, denn laut Expert*innen kann ihnen das dabei helfen, die Hilfe zu erhalten, die sie benötigen. Aber wir müssen auch verstärkt die Wirkung solcher Bilder auf andere Menschen bedenken. Hier ist es wichtig, das richtige Maß zu finden – kein leichtes Unterfangen.

Im Laufe der sorgfältigen Überprüfung haben die Expert*innen – darunter das Centre for Mental Health sowie Save.org – erneut bestätigt, dass es unbedingt notwendig ist, sichere Räume zu schaffen, in denen junge Menschen über ihre Erfahrungen sprechen können, auch wenn diese selbstverletzendes Verhalten umfassen. Sie haben darauf hingewiesen, dass Menschen, die solche Inhalte teilen, oft auf diesem Weg möglicherweise lebensrettende Unterstützung und Ressourcen finden.

Nichtsdestotrotz wurde insgesamt die Meinung vertreten, dass explizite Darstellungen von selbstverletzendem Verhalten – auch in einem Zusammenhang, in dem eine Person von ihrem eigenen Kampf damit berichtet – potenziell zu selbstverletzendem Verhalten führen können, selbst wenn dies nicht beabsichtigt ist. Daher sind explizite Darstellungen von selbstverletzendem Verhalten auf unserer Plattform jetzt nicht mehr erlaubt.

Es wird einige Zeit dauern, das richtig hinzubekommen, aber wir nehmen unsere Verantwortung sehr ernst

Unser Ziel ist es, keine expliziten Darstellungen von selbstverletzendem Verhalten oder Suizid auf Instagram anzuzeigen und die Anzahl der Bilder mit Selbstverletzungs- bzw. Suizidbezug in Hashtags, Suchergebnissen, im Tab „Explore“ und in den empfohlenen Inhalten erheblich zu verringern – bzw. letztendlich ganz zu entfernen. Gleichzeitig möchten wir weiterhin den Menschen helfen, die sich in Communitys auf Instagram vernetzen und gegenseitig unterstützen.

Wir müssen eine sichere Community für alle schaffen, die Unterstützung bietet – aber das geht nicht auf Knopfdruck. Die Bilder können nicht sofort entfernt werden und wir müssen gewährleisten, dass Nutzer*innen, die Inhalte mit Selbstverletzungsbezug posten, auch weiterhin die Möglichkeit haben, sich frei zu äußern und gegebenenfalls Hilfe zu finden. Wir lernen ständig dazu und werden alle notwendige Schritte unternehmen, um diese Inhalte im großen Maßstab zu finden und zu entfernen.

Uns ist bewusst, dass wir noch mehr tun können, um besonders schutzbedürftige Instagram-Nutzer*innen zu unterstützen. Deshalb werden wir auch weiterhin mit Fachleuten und der gesamten Branche zusammenarbeiten, um Unterstützungsmöglichkeiten für Menschen, die Hilfe benötigen, zu finden. Hier findest du mehr Informationen über unsere Gespräche mit den Expert*innen:

about.fb.com/news/2019/02/protecting-people-from-self-harm

Adam Mosseri, Head of Instagram