Ein Update zu unseren Maßnahmen für Gleichberechtigung

By Adam Mosseri, Head of Instagram

Gepostet am 9. September 2020

Wir befinden uns in einer weltweiten Pandemie, in den USA stehen die Präsidentschaftswahlen an, und immer häufiger zeigt sich, dass noch lange keine Gleichberechtigung für Menschen mit verschiedensten ethnischen Hintergründen erreicht ist. In dieser Zeit verändert sich die Art und Weise, wie Menschen Instagram nutzen. Immer mehr Menschen sprechen auf der Plattform über Anliegen, deren Bekanntheitsgrad sie erhöhen wollen – ethnische, soziale und gesellschaftliche Themen, die ihnen wichtig sind. Das ist ein wichtiger Grund, warum wir im Juni beschlossen haben, zu prüfen, wie Instagram möglicherweise bestimmte Gruppen benachteiligt. Es liegt in unserer Verantwortung, unser Produkt und unsere Arbeitsweise kritisch zu beurteilen und zu verbessern, damit Instagram den richtigen Raum für die Aktivitäten und Anliegen aller Nutzer bietet.

Hier ist ein Update zu Bereichen, in denen wir diesen Sommer Fortschritte gemacht haben. Das ist keine vollständige Liste, und es gibt noch viel mehr zu tun. Ich werde regelmäßig Updates teilen, um unsere Community auf dem Laufenden zu halten, wie wir bei diesen wichtigen Änderungen vorankommen.

Neues Team für Gleichberechtigung

Um sicherzustellen, dass diese Arbeit die nötige Unterstützung erhält, haben wir bei Instagram eine eigene Produktgruppe ins Leben gerufen: das Team für Gleichberechtigung. Dieses Team wird unbewusste Vorurteile bei unserer Produktentwicklung und der Nutzererfahrung auf Instagram untersuchen und nach Lösungen suchen. Seine Aufgabe besteht in der Entwicklung von fairen Produkten, die alle Nutzer gleichberechtigt behandeln. Das umfasst die Zusammenarbeit mit Facebooks Team für verantwortungsbewusste KI, um sicherzustellen, dass unsere Algorithmen niemanden benachteiligen. Außerdem wird das Team neue Features entwickeln, die auf die Bedürfnisse unterrepräsentierter Gemeinschaften eingehen. Unabhängig von dieser neuen Produktgruppe stellen wir eine/n neue/n Director for Diversity and Inclusion für Instagram ein. Diese Person wird ebenfalls auf das Ziel von Instagram hinarbeiten, vielfältige Mitarbeiter zu finden, zu halten und weiterzuentwickeln.

Belästigung und Hass

Wir haben verschiedene unternehmensweite Richtlinien entwickelt und aktualisiert, um Gemeinschaften in aller Welt zu unterstützen. Wir haben unsere Richtlinien beispielsweise aktualisiert, um auf bestimmte Arten impliziter Hassrede einzugehen, beispielsweise Blackface-Darstellungen oder Vorurteile gegen Juden. Darüber hinaus haben wir die Durchsetzung unserer Richtlinien gegen Androhungen von Vergewaltigung verstärkt. Ab sofort wird jedes Konto deaktiviert, anstatt nur den entsprechenden Inhalt zu entfernen, sobald wir von solch einer Drohung erfahren. Außerdem bieten wir Personen, die unfreiwillig öffentlich bekannt wurden, mehr Schutz vor Belästigung und Mobbing. Diese Personen möchten häufig gar keine Aufmerksamkeit und gehören nach unseren Erkenntnissen oft Randgruppen an. Durch unsere Maßnahmen sollen sie sich wieder so sicher fühlen wie zu der Zeit, bevor sie ins öffentliche Interesse gerückt wurden.

Für uns hat weiterhin Priorität, Inhalte zu entfernen, die gegen unsere Richtlinien zu Hassgruppen verstoßen. Dementsprechend haben wir 23 verschiedene verbotene Organisationen entfernt, von denen mehr als die Hälfte die White Supremacy-Ideologie unterstützten. Weiterhin haben wir kürzlich Updates zu Maßnahmen gegen Organisationen angekündigt, die in Verbindung mit Gewalt stehen, beispielsweise QAnon.

Wir haben außerdem einige erste Änderungen für Creators und Unternehmen vorgenommen. Personen mit Unternehmens- oder Creator-Konten können jetzt beispielsweise festlegen, wer ihnen Direktnachrichten senden kann. Wir weiten außerdem Kommentarwarnungen auf Kommentare in Live aus. Wenn jemand also versucht, einen möglicherweise anstößigen Kommentar zu posten, wird er aufgefordert, noch einmal darüber nachzudenken.

Verifizierung

In den letzten zwei Monaten haben wir den Verifizierungsvorgang auf Instagram geprüft und Änderungen vorgenommen, um ihn fairer zu gestalten. Ein Konto muss bestimmte Kriterien erfüllen, bevor wir es verifizieren. Dazu gehört auch ein bestimmtes Maß an Relevanz. Wir messen Relevanz anhand von Presseartikeln über die Person, die die Verifizierung beantragt. Wir haben die Liste von Presseinstituten, die wir dabei berücksichtigen, erweitert und mehr afroamerikanische, LGBTQ+- und Latinx-Medien aufgenommen.

Die Zahl der Abonnenten war zwar nie eine Bedingung, um über das Formular in der App verifiziert zu werden (jeder kann sich bewerben), dennoch haben wir bestimmte Systeme verwendet, die Konten mit einer hohen Abonnentenzahl priorisiert haben, um die Tausenden von Anfragen zu filtern, die wir täglich erhalten. Wir haben diese Filter jetzt aus dem automatischen Teil des Prozesses entfernt.

Verbreitung

Um auf Bedenken zu vermeintlicher Zensur auf Instagram einzugehen, haben wir kürzlich die Richtlinien veröffentlicht, anhand derer wir bestimmen, welche Inhaltsarten an Orten wie „Explore“ erscheinen können. Wir hoffen, dass für unsere Nutzer damit besser verständlich ist, warum einige Inhaltsarten in den Empfehlungen auf Instagram und Facebook nicht erscheinen und sich deshalb weniger stark verbreiten. Wir haben diese Richtlinien in Zusammenarbeit mit über 50 führenden Experten für Empfehlungssysteme, Social Computing, Meinungsfreiheit, Sicherheit, Bürgerrechte und digitale Rechte entwickelt.

***

Wie bereits in meinem ersten Post gesagt, werden diese Verbesserungen einige Zeit in Anspruch nehmen. Aber diese Arbeit ist wichtig, und wir wollen sie richtig machen. Wenn du uns bei diesen Bemühungen unterstützen möchtest, wirf einen Blick auf die offenen Stellen in unserem Richtlinien-Team und unserem Produkt-Team.

***

MEHR ZUM THEMA

Weitere Ankündigungen aus dem Bereich Instagram