公平性に関する最新情報 - これまでの進展と今後の取り組み

Instagramでは日々、黒人利用者の皆さまが文化を前進させています。活動家やコミュニティ創設者から、教育関係者やクリエイターまで、黒人はインスピレーションを具現化し、世界的なトレンドを創出し、新しいジャンルや表現方法を創造し、人々や企業が責任を果たすよう声を上げています。

Instagramエクイティチームの設立当初の目的は、社会から疎外されたコミュニティから提起された懸念について、Instagramでより深く掘り下げることでした。この数か月間、エクイティチームは昨年の夏に確立された基盤の上に、より公平なプラットフォームを構築してきました。前回最新情報をお伝えして以来、さまざまな進展がありました。今回はその最新情報をご紹介します。

まず、エクイティチームとは何をする組織なのでしょうか

エクイティチームは、社会的に不利な背景を持つ人々がInstagramで直面する可能性がある課題に対応するために設立されました。そのような課題は一夜にして解決できるものではなく、一度に多くのことをやろうとすると、どれもうまくいかないものです。そこで、まずは弊社のプラットフォームで黒人の利用者から提起された具体的な懸念について深く掘り下げ、それを踏まえて解決策を構築し、サポートされていることをより強く感じていただけるように変更を加えることにしました。そうすることで、Instagramのすべての利用者にメリットがもたらされるだけでなく、社会から疎外された他のコミュニティのニーズに応える方法をモデル化できると確信しています。

初期の取り組みでは、黒人コミュニティの多様性について把握し、それに対応できるようにするために、黒人コミュニティのさまざまな集団を対象に幅広い調査を実施しました。クリエイターや活動家、政策担当者、一般の方々から、Instagramプラットフォームを使用するときのさまざまな体験について話を伺いました。また、自動施行、おすすめ、ランキングの基盤となっているテクノロジーの監査を進めることで、Instagramプラットフォームで疎外されていると利用者が感じることがないよう必要な変更を見極めようとしています。

こうした基礎的な取り組みを通じて重点を絞り込み、エクイティチームが集中すべき具体的な活動を決定しました。エクイティチームがこれから注力する領域は次の3つです。

• Instagramの全社員が公平な製品とツールの構築を最優先できるようにする
• 弊社のテクノロジーと自動化システムを通じてプラットフォームでの公平性を促進する
• Instagramを通じて支援の機会を増やす

Instagramの全社員が公平な製品とツールの構築を最優先できるようにする

プラットフォームの公平性を高めることは、Instagramの全社員の責任です。この数か月で、エクイティチームは、新しい製品やテクノロジーの構築を担当する社員が業務の全段階で公平性を考慮できるようにするための社内プログラムを立ち上げました。「公平な製品に向けたプログラム(Equitable Product Program)」と呼ばれるこのプログラムの目的は、規模の大小を問わずどのような変更を加えれば社会から疎外されたコミュニティにプラスの影響をもたらすことができるのかについて、チームが検討できるようにすることです。このプログラムを通じて、社員は自分たちが作っているものについて総合的に考えることができます。とりわけ、社会から疎外されたコミュニティに新機能がもたらす影響を考慮できるようになります。公平な製品に向けたプログラムには、公平性を考慮した製品監査を通じてチームを正しい方向へ導くことや、トレーニングの実施、コードベースから読み込まれた用語をチームが変更できるようにすること(「ホワイトリスト」、「ブラックリスト」などの業界用語を「許可リスト」、「ブロックリスト」に変更するなど)が含まれています。エクイティチームはこれまでに、社内で最大規模の3チーム(フィードとストーリーズ、リール、クリエイターの各チーム)と協力して製品を再評価し、実装可能な改善点を洗い出してきました。今後1年半の間に、このプログラムをInstagramの全チームに拡大していく予定です。

より技術的な面では、機械学習モデルカードをInstagramで公開しました。これは、新しい機械学習が公平性を最優先して設計されていることを確認するためのチェックリストです。モデルカードは質問票のようなもので、チームはこれを使い、新しいモデルを導入する前に、そのモデルがもたらす影響を検討して、アルゴリズムにバイアスがかかっている可能性を低減することができます。モデルカードでは、公平性に関連する一連の質問と検討事項を提示することで、特定のコミュニティに意図しない影響を与えてしまう可能性を抑えています。モデルカードにより、弊社は新しいテクノロジーをリリースする前に影響を是正することができます。例えば、米国の選挙を前に、弊社は一時的な措置を講じて、偽情報や暴力的なコンテンツを利用者に表示されにくくしました。また、弊社のチームはモデルカードを利用して、選挙を保護するために適切な機械学習モデルが使用されていることを確認しつつ、措置が公正に実施され、特定のコミュニティに不相応な影響を与えないようにしました。

今後18か月の間にこのプログラムを拡大し、Instagramのすべてのチームがこのカードを使用して、弊社が開発するテクノロジーのあらゆる段階で公平性を確保し、見過ごされがちなコミュニティに対する潜在的な影響を低減できるようにする予定です。

弊社のテクノロジーと自動化システムを通じてプラットフォームでの公平性を促進する

弊社の調査では、システムのしくみやコンテンツに関する決定に関して、透明性の向上を求める声が数多く寄せられています。利用者は、自分のアカウントの成長やエンゲージメントが、自分の理解の及ばない方法で影響を受けていると感じていました。この影響は「シャドウバン」とも呼ばれています。利用者との対話から、主に次のような要因がこのような認識に結びついていることがわかりました。

• 「いいね！」やコメントの数が以前よりも減った理由について十分に理解されていない。
• 弊社の決定やポリシーには多様なコミュニティの実体験に見られる文化的・歴史的なニュアンスが考慮されていないという認識がある。
• ある規定が特定のコミュニティだけに適用されていると感じたり、明確な説明なしにコンテンツが削除されたと感じたりするなど、弊社の施行状況にまつわる誤解がある。
• 技術的な問題が一部の利用者に一種の抑圧だと受け止められている。

調査を通じて、こうした思い込みが認識されている理由について理解を深めることができました。これに基づいて、弊社はツールと製品の透明性向上に向けた基盤を構築しました。例えば、個人のアカウントに対する制限やアカウントのリーチの制限についての透明性向上を図るツールや、利用者が実施できる是正措置があります。また、不具合や技術的な問題によってコンテンツが影響を受ける可能性がある場合に、アプリ内で利用者に直接通知することも計画しています。今後数か月以内に、これらの新機能について詳細をお知らせします。

Instagramを通じて経済的な支援の機会を増やす

パンデミックの期間中、社会から疎外されたコミュニティは、医療格差や失業をはじめとして甚大な影響を受けてきました。こうした影響の多くは制度的・構造的な人種差別に根ざすもので、社会全体で対処していくべきものです。弊社はFacebookとInstagramの全体で、弊社のプラットフォームを利用して格差を可能な限り解消していきたいと考えています。医療格差への対応としては、弊社の健康関連チームと緊密に連携し、ワクチンの安全性、接種条件、接種可能な時期に関する正確なリソースに利用者がアクセスできるようにしています。

より一般的な課題については、世界中で黒人の多くが経済的に不平等な立場に置かれてきました。社会に存在する制度的・構造的な人種差別を弊社だけで解決することはできませんが、Instagramでこうした格差を埋める機会を追求することはでき、特に効果的なのが黒人のビジネスやクリエイターの支援です。弊社は昨年、2,500万ドルを投じてFacebookとInstagramで黒人クリエイターを支援する取り組みを始めました。この投資の一環として、次世代の黒人クリエイターがオンラインとオフラインで成功するための資金とリソースを提供する新しいプログラムを立ち上げています。また、黒人経営者のビジネスを発見して支援できるよう、ストーリーズで#BuyBlackスタンプの提供を開始しました。さらに、今後数か月以内に、黒人経営者のビジネスの発見と拡大を促進する新しい製品機能を導入するほか、Instagramで黒人経営者のビジネスを見つけやすくする機能を構築し、こうしたビジネスを中傷などから保護する取り組みにも着手します。

エクイティチームは、社会から疎外されたコミュニティのInstagram体験を改善するべく日々取り組んでいます。昨年の調査を通じて、認識と理解を深めることができましたが、この領域でやるべきことは他にもたくさんあります。弊社のプラットフォームですべての利用者が弊社のツールを使い、Instagramのサポートを受けながら、安心して自分自身を表現できるよう、今後もたゆまぬ努力を続けていきます。