Neues zum Thema Gleichberechtigung – unsere bisherige Arbeit und nächsten Schritte

Jeden Tag tragen Schwarze Menschen auf Instagram dazu bei, das Miteinander zu verbessern und unser aller Kultur zu bereichern. Dabei kann es sich um Aktivist*innen und Förder*innen von Communitys, Pädagog*innen und Kreative handeln – sie zeigen, was es bedeutet, andere zu inspirieren, globale Trends zu starten, sich durch neue Genres und Formen auszudrücken und die Stimme zu erheben, um von Menschen und Unternehmen Verantwortung einzufordern.

Als wir das Instagram Equity-Team ins Leben riefen, wollten wir auf Instagram die Probleme untersuchen, die benachteiligte Gruppen beschäftigen. In den letzten Monaten hat unser Team auf dem Fundament aufgebaut, das letzten Sommer gelegt wurde, um eine gerechtere Plattform zu schaffen. Seit wir unser letztes Update geteilt haben, haben wir weitere Fortschritte erzielt, von denen wir heute berichten möchten.

Was genau macht das Equity-Team?

Das Equity-Team wurde gegründet, um die Herausforderungen anzugehen, mit denen Menschen aus benachteiligten Gemeinschaften auf Instagram konfrontiert sind. Uns ist bewusst, dass sich diese Herausforderungen nicht über Nacht bewältigen lassen, und dass wir kein Problem richtig lösen können, wenn wir zu viel auf einmal angehen. Darum haben wir uns dafür entschieden, zunächst näher auf das einzugehen, was Schwarze Menschen auf unserer Plattform beschäftigt. Wir wollen Lösungen entwickeln und Änderungen einführen, die ihnen mehr Unterstützung geben. Das kommt nicht nur allen Instagram-Nutzer*innen zugute, sondern dient uns auch als Beispiel dafür, wie wir mit den Bedürfnissen anderer marginalisierter Gruppen umgehen können.

Am Anfang haben wir zunächst umfangreiche Recherchen über verschiedene Teilgruppen der Schwarzen Community durchgeführt, um ihre Vielfalt zu verstehen und unsere Arbeit richtig auszurichten. Wir haben mit Creator*innen, Aktivist*innen, Interessierten und verschiedensten Menschen gesprochen, um die vielseitigen Erfahrungen aufzudecken, die Nutzer*innen auf der Plattform machen. Wir prüfen außerdem aktuell die Technologie, die zuständig ist für unsere automatisierte Richtliniendurchsetzung, unsere Empfehlungen und Rankings. Wir möchten so besser verstehen, welche Maßnahmen wir ergreifen müssen, damit sich Menschen auf unserer Plattform nicht benachteiligt fühlen.

Durch diese Vorarbeit konnten wir die Ziele genauer definieren, mit denen sich unser Team jetzt näher befasst. Ganz oben auf der Liste stehen diese Bereiche:

• Alle Instagram-Mitarbeiter*innen dabei unterstützen, gerechte Produkte und Tools zu schaffen und Gleichberechtigung bei ihrer Arbeit zu priorisieren
• Fairness auf der Plattform fördern – durch unsere Technologie und unsere automatisierten Systeme
• Instagram nutzen, um mehr Möglichkeiten zur Selbsthilfe und Empowerment zu schaffen

Alle Instagram-Mitarbeiter*innen dabei unterstützen, gerechte Produkte und Tools zu schaffen und Gleichberechtigung bei ihrer Arbeit zu priorisieren

Jede*r bei Instagram muss dazu beitragen, die Plattform gerechter zu machen. In den letzten Monaten hat das Equity-Team ein internes Programm gestartet. Es soll Mitarbeiter*innen, die für die Entwicklung neuer Produkte und Technologien verantwortlich sind, dabei helfen, mit jedem Arbeitsschritt für mehr Gleichberechtigung zu sorgen. Das sogenannte Equitable Product Program soll Teams dabei unterstützen, Chancen für große und kleine Veränderungen zu finden, die sich positiv auf benachteiligte Gruppen auswirken. Mitarbeiter*innen können so ganzheitlich reflektieren, was genau sie entwickeln, vor allem, wenn es darum geht, welchen Einfluss neue Features auf benachteiligte Communitys haben. Im Rahmen des Equitable Product Program prüfen Teams Produkte darauf, wie gerecht sie sind, sie entfernen Begriffe mit negativen Bedeutungen aus der Codebase (ändern also z. B. branchentypische Begriffe wie „Whitelist“ und „Blacklist“ zu „Negativliste“ und „Positivliste“) und vieles mehr. Wir haben bisher mit drei unserer größten Teams (dem Stories-, Reels- und Creator-Team) daran gearbeitet, diese Produkte neu zu bewerten und mögliche Verbesserungen zu finden. In den nächsten eineinhalb Jahren werden wir alle Instagram-Teams in dieses Programm aufnehmen.

Von der technischen Seite haben wir außerdem Model Cards für maschinelles Lernen auf Instagram eingeführt. Dabei handelt es sich um eine Checkliste, mit der sichergestellt werden soll, dass maschinelles Lernen künftig im Sinne der Gleichberechtigung funktioniert. Model Cards ähneln einem Fragebogen und sorgen dafür, dass Teams über die möglichen Auswirkungen ihrer neuen Modelle nachdenken, bevor sie sie einführen. So sinkt die Wahrscheinlichkeit, dass es zu algorithmischer Voreingenommenheit kommt. Die Model Cards bestehen aus Fragen und Anregungen zum Thema Gleichberechtigung, um mögliche ungewollte Auswirkungen auf einzelne Gemeinschaften zu unterbinden. So können wir negative Konsequenzen neuer Technologien verhindern, bevor wir sie veröffentlichen. Vor der US-Wahl ergriffen wir beispielsweise Maßnahmen, die es Menschen erschwerten, an Fehlinformationen oder gewalttätige Inhalte zu gelangen. Unsere Teams verwendeten Model Cards, um sicherzustellen, dass wir geeignete Modelle für das maschinelle Lernen nutzten. So trugen sie zum Schutz der Wahlen bei. Gleichzeitig stellten sie sicher, dass unsere Maßnahmen fair waren und sich nicht einseitig auf eine bestimmte Community auswirkten.

Wir möchten dieses Programm in den nächsten 18 Monaten ausbauen und jedem Team bei Instagram helfen, mit diesen Cards für mehr Fairness in unserer Technologie zu sorgen und mögliche Auswirkungen auf marginalisierte Gruppen zu verringern.

Fairness auf der Plattform fördern – durch unsere Technologie und unsere automatisierten Systeme

Bei unseren Forschungen stellten wir wiederholt fest, dass sich die Menschen mehr Einblicke in die Funktionsweise unseres Systems und die Entscheidungsfindung zur Anzeige von Inhalten wünschen. Nutzer*innen hatten das Gefühl, dass das Wachstum ihres Kontos und/oder die Steigerung der Interaktionen auf eine Weise beeinflusst wurden, die sie nicht verstanden. Sie bezeichneten diese Auswirkungen manchmal als „Shadowbanning“. In unseren Gesprächen mit Nutzer*innen erfuhren wir, dass dies oft mit Folgendem verbunden war:

• Fehlendes Verständnis dafür, warum einzelne Kanäle möglicherweise weniger Likes oder Kommentare erhalten als zuvor.
• Das Gefühl, dass unsere Entscheidungen und Richtlinien die kulturellen und/oder historischen Erfahrungen nicht in der Feinheit berücksichtigen, wie sie verschiedene Communitys durchleben.
• Verwirrung bezüglich der Durchsetzung unserer Regeln und das Gefühl, dass entweder manche Gemeinschaften Standards einhalten mussten, die für andere nicht galten, oder dass unsere Systeme Inhalte ohne klare Begründung entfernten.
• Technische Probleme, die von einigen möglicherweise als Form der Unterdrückung wahrgenommen wurden.

Durch unsere Forschung verstehen wir besser, wie und warum Nutzer*innen Voreingenommenheiten wahrnehmen. Das ist eine unserer Grundlagen für neue Tools und Produkte, die mehr Transparenz bieten. Dazu gehören Tools, die mehr Transparenz schaffen, wenn es um Einschränkungen beim Konto eines*einer Nutzer*in oder bei der Begrenzung seiner*ihrer Reichweite geht. Das gilt auch für Maßnahmen, mit denen Nutzer*innen diese Einschränkungen rückgängig machen können. Wir planen außerdem app-interne Kommunikationsmöglichkeiten, mit denen wir die Menschen darüber informieren können, wenn Fehler und technische Probleme möglicherweise ihre Inhalte beeinflussen. In den nächsten Monaten geben wir mehr Details zu diesen Funktionen bekannt.

Mit Instagram mehr Möglichkeiten zur wirtschaftlichen Stärkung schaffen

Während der Pandemie hatten benachteiligte Gruppen besonders zu leiden, etwa durch ungerechten Zugang zu medizinischer Versorgung, Verlust des Arbeitsplatzes und vieles mehr. Vieles davon liegt an institutionellem und systembedingtem Rassismus und muss von uns als Gesellschaft angegangen werden. Wir bei Facebook und Instagram möchten mit unserer Arbeit dazu beitragen, diese Lücken so weit wie möglich zu schließen. Für eine gerechtere Gesundheitsversorgung arbeiten wir beispielsweise eng mit unseren Gesundheitsteams zusammen, um sicherzustellen, dass wir den Menschen die passenden Ressourcen zur Sicherheit und Verfügbarkeit von Impfstoffen sowie zur Impfberechtigung bereitstellen.

Allgemein wissen wir, dass Schwarze Menschen weltweit oft nicht denselben Zugang zu wirtschaftlichen Chancen haben. Wir können zwar den institutionellen und systembedingten Rassismus in der Gesellschaft nicht im Alleingang beenden, aber wir wollen Wege suchen, um diese Lücken auf Instagram zu schließen. Das betrifft vor allem die Unterstützung für Unternehmen von Schwarzen Menschen und Schwarze Creator*innen. Wir haben diesen Punkt letztes Jahr in Angriff genommen und Schwarze Creator*innen auf Facebook und Instagram mit 25 Mio. USD unterstützt. Im Rahmen dieser Investition haben wir ein neues Programm gestartet, das der nächsten Generation Schwarzer Creator*innen Fördermittel und Ressourcen für den Erfolg im Internet und offline bietet. Außerdem gibt es in Stories jetzt einen #BuyBlack-Sticker, mit dem Nutzer*innen Unternehmen von Schwarzen Menschen finden und unterstützen können. In den nächsten Monaten führen wir auch neue Produktfunktionen ein, mit denen Menschen solche Unternehmen entdecken können, sodass diese bekannter werden. Zusätzlich entwickeln wir spezielle Funktionen, mit denen Nutzer*innen Unternehmen mit Schwarzen Eigentümer*innen auf Instagram finden können – gleichzeitig möchten wir diese Unternehmen jedoch auch vor möglicherweise verletzenden Interaktionen schützen.

Unser Team arbeitet jeden Tag daran, benachteiligten Communitys auf Instagram bessere Erfahrungen zu bieten. Durch unsere Forschung im letzten Jahr konnten wir mehr Probleme erkennen und verstehen. Klar ist aber auch, dass unsere Arbeit hier noch lange nicht getan ist. Wir werden auch weiterhin unermüdlich daran arbeiten, dass sich auf dieser Plattform jede*r sorgenfrei ausdrücken kann und dabei von unseren Tools und Instagram unterstützt wird.