Ein Update zu unseren Maßnahmen gegen Diskriminierung

Wir befinden uns in einer weltweiten Pandemie, in den USA stehen die Präsidentschaftswahlen an, und immer häufiger gibt es Konflikte zwischen Menschen aus unterschiedlichen ethnischen Gruppen. In dieser Zeit verändert sich die Art und Weise, wie Instagram genutzt wird. Immer mehr Menschen nutzen die Plattform, um auf Anliegen aufmerksam zu machen, die ihnen wichtig sind – ethnische, soziale und gesellschaftliche Themen. Das ist ein wichtiger Grund, warum wir im Juni beschlossen haben, zu prüfen, wie Instagram möglicherweise bestimmte Gruppen benachteiligt. Es liegt in unserer Verantwortung, unser Produkt und unsere Arbeitsweise kritisch zu beurteilen und zu verbessern, damit Instagram den richtigen Raum für die Aktivitäten und Anliegen aller Nutzer*innen bietet.

Hier ist ein Update zu den Bereichen, in denen wir diesen Sommer Fortschritte gemacht haben. Die Liste ist keineswegs vollständig und es gibt noch viel mehr zu tun. Ich werde regelmäßig Updates teilen, um unsere Community auf dem Laufenden zu halten, wie wir bei diesen wichtigen Änderungen vorankommen.

Neu: Team gegen Diskriminierung

Um sicherzustellen, dass diese Arbeit die nötige Unterstützung erhält, haben wir bei Instagram eine eigene Produktgruppe ins Leben gerufen: das Team gegen Diskriminierung. Dieses wird unbewusste Vorurteile bei unserer Produktentwicklung und dem Nutzungserlebnis auf Instagram untersuchen und nach Lösungen suchen. Seine Aufgabe besteht in der Entwicklung von fairen Produkten, die alle Nutzer*innen gleichberechtigt behandeln. Das umfasst die Zusammenarbeit mit Facebooks Team für verantwortungsbewusste KI, um sicherzustellen, dass unsere Algorithmen niemanden benachteiligen. Außerdem wird das Team neue Features entwickeln, die auf die Bedürfnisse unterrepräsentierter Communitys eingehen. Unabhängig von dieser neuen Produktgruppe stellen wir außerdem eine/n neue/n Director for Diversity and Inclusion für Instagram ein. Er oder sie wird ebenfalls auf das Ziel von Instagram hinarbeiten, vielfältige Mitarbeiter*innen zu finden, zu halten und weiterzuentwickeln.

Belästigung und Hass

Wir haben verschiedene unternehmensweite Richtlinien entwickelt und aktualisiert, um Gemeinschaften in aller Welt zu unterstützen. So haben wir unsere Richtlinien aktualisiert, um auf bestimmte Arten impliziter Hassrede einzugehen, beispielsweise Inhalte, die Blackfacing zeigen, oder Vorurteile gegen jüdische Menschen. Darüber hinaus haben wir die Durchsetzung von Maßnahmen bei ernstzunehmenden Androhungen von Vergewaltigung verschärft. Wir deaktivieren ab sofort jedes Konto, von dem eine solche Drohung ausgeht, sobald wir Kenntnis davon haben, statt nur den entsprechenden Inhalt zu entfernen. Außerdem bieten wir Personen, die unfreiwillig öffentlich bekannt werden, mehr Schutz vor Belästigung und Mobbing. Diese Personen möchten häufig gar keine Aufmerksamkeit und gehören nach unseren Erkenntnissen oft Randgruppen an. Durch unsere Maßnahmen sollen sie sich wieder so sicher fühlen wie zu der Zeit, bevor sie ins öffentliche Interesse gerückt wurden.

Für uns hat weiterhin Priorität, Inhalte zu entfernen, die gegen unsere Richtlinien zu Hassgruppen verstoßen. Dementsprechend haben wir 23 verschiedene verbotene Organisationen entfernt, von denen mehr als die Hälfte die White Supremacy-Ideologie unterstützten. Weiterhin haben wir kürzlich Updates zu Maßnahmen gegen Organisationen angekündigt, die mit Gewalt in Verbindung stehen, beispielsweise QAnon.

Wir haben außerdem einige erste Änderungen für Creator*innen und Unternehmen vorgenommen. Personen mit einem Business- oder Creator*innen-Konto können jetzt beispielsweise festlegen, wer ihnen Direktnachrichten senden kann. Wir weiten außerdem Kommentarwarnungen auf Kommentare in Live aus. Wenn eine Person also versucht, einen möglicherweise beleidigenden Kommentar zu posten, wird sie aufgefordert, ihn noch einmal zu überdenken.

Verifizierung

In den letzten zwei Monaten haben wir den Verifizierungsvorgang auf Instagram überprüft und Änderungen vorgenommen, um ihn fairer zu gestalten. Bevor wir ein Konto verifizieren, muss es bestimmte Kriterien erfüllen. Dazu gehört auch ein bestimmtes Maß an Relevanz. Wir messen Relevanz anhand von Presseartikeln über die Person, die die Verifizierung beantragt. Die Liste von Pressequellen, die wir dabei berücksichtigen, haben wir jetzt erweitert und mehr Schwarze, LGBTQ+- und Latinx-Medien aufgenommen.

Die Zahl der Follower*innen war zwar nie eine Bedingung für die Verifizierung über das Formular in der App (jeder kann sie beantragen). Dennoch haben die von uns verwendeten Systeme Konten mit vielen Follower*innen priorisiert, um die Tausenden von Anfragen zu bearbeiten, die wir täglich erhalten. Dieses Element haben wir jetzt aus dem automatisierten Teil des Prozesses entfernt.

Verbreitung von Inhalten

Als Reaktion auf die anhaltende Besorgnis über vermeintliche Zensur auf Instagram haben wir kürzlich die Richtlinien veröffentlicht, anhand derer wir bestimmen, welche Inhaltsarten an Orten wie „Explore“ erscheinen können. Wir hoffen, dass für unsere Nutzer*innen damit besser verständlich ist, warum einige Inhaltsarten nicht in den Empfehlungen auf Instagram und Facebook erscheinen und sich deshalb weniger stark verbreiten. Wir haben diese Richtlinien in Zusammenarbeit mit über 50 führenden Expert*innen für Empfehlungssysteme, Social Computing, Meinungsfreiheit, Sicherheit, Bürger*innenrechte und digitale Rechte entwickelt.

Wie bereits in meinem ersten Post gesagt, wird diese Arbeit einige Zeit in Anspruch nehmen. Aber sie ist wichtig und „Gut Ding will Weile haben“. Wenn du uns bei diesen Bemühungen unterstützen möchtest, wirf einen Blick auf die offenen Stellen in unserem Richtlinien-Team und unserem Produkt-Team.