평등팀 업데이트 - 현재의 성과 및 향후 계획

Instagram에서 흑인들은 매일같이 문화가 새롭게 꽃필 수 있도록 주도적으로 행동합니다. 사회 운동가와 커뮤니티를 만들어가는 사람들부터 교육자와 창작을 하는 사람들에 이르기까지, 수많은 흑인들이 다른 이들에게 영감을 주고, 전 세계적인 트렌드를 시작하고, 자기 표현을 위한 새로운 장르와 방식을 만들고, 목소리를 높여 개인과 기업의 책임을 촉구하는 등 실제로 생각하는 바를 직접 행동으로 보여주고 있습니다.

Instagram 평등팀은 출범 당시 Instagram에서 소외된 커뮤니티들이 제기하는 우려 사항을 자세히 들여다보는 것을 목표로 삼았습니다. 지난 몇 달 동안에는 작년 여름 확립했던 기반을 바탕으로 더욱 공정한 플랫폼을 만들기 위해 노력을 기울여왔습니다. 오늘은 지난번 업데이트 이후 진전된 사항을 여러분에게 알려드리고자 합니다.

평등팀이 하는 일은?

평등팀은 소외된 커뮤니티에 속한 사람들이 Instagram에서 겪게 되는 문제를 해결하기 위해 출범했습니다. 이러한 문제들을 하룻밤 사이에 해결할 수 없고, 그렇다고 한꺼번에 너무 많은 일을 해내려고 하면 어느 것 하나 제대로 해내지 못할 것이라는 점은 저희도 잘 알고 있습니다. 따라서 평등팀은 가장 먼저 Instagram 플랫폼에서 흑인들이 제기하는 구체적인 우려 사항을 자세히 살펴보고, 해결 방안을 마련하며, 흑인들이 전보다 더 많은 지원을 받는다고 느낄 수 있도록 변화를 도입하기로 했습니다. 이러한 방식을 활용하면 Instagram의 모든 사용자에게 혜택이 돌아갈 뿐만 아니라, 다른 소외된 커뮤니티의 요구 사항에 접근하는 방식에도 귀감이 될 수 있을 것이라 생각하고 있습니다.

이를 위한 초기 작업으로 흑인 커뮤니티의 다양성을 이해하고 제대로 지원할 수 있도록 흑인 커뮤니티의 다양한 부분 집합과 교집합에 대해 폭넓게 알아보는 리서치를 진행했습니다. 덕분에 크리에이터와 사회 운동가, 정책 입안자와 일반인들의 이야기를 들으며 사람들이 Instagram 플랫폼을 이용할 때 겪게 되는 경험이 얼마나 다양한지 이해할 수 있었습니다. 또한 Instagram 플랫폼에서 사람들이 소외감을 느끼지 않도록 도우려면 어떤 변화가 필요한지 알아보기 위해 자동 규정 시행과 추천, 순위 지정에 관련된 기술에 대한 감사를 현재 진행하고 있습니다.

이러한 기초 작업을 통해 평등팀은 주력 분야를 좁혀나가며 더욱 구체적으로 집중해야 할 분야를 최종 결정할 수 있었습니다. 이제는 다음 세 가지 분야에 집중하고자 합니다.

• Instagram의 모든 직원이 공정한 제품과 도구를 만드는 데 우선 집중할 수 있도록 지원하기
• 기술과 자동 시스템을 통해 Instagram 플랫폼의 공정성 증진하기
• Instagram을 활용해 역량을 강화할 수 있는 더 많은 기회 창출하기

Instagram의 모든 직원이 공정한 제품과 도구를 만드는 데 우선 집중할 수 있도록 지원하기

Instagram의 모든 직원에게는 Instagram이 더욱 공정한 플랫폼이 되도록 노력할 책임이 있습니다. 평등팀은 지난 수개월 동안 새로운 제품과 기술을 개발하는 책임을 맡은 직원들이 모든 업무 단계에서 공정성을 고려할 수 있도록 지원하는 내부 프로그램을 시행했습니다. 이 '공정한 제품 프로그램(Equitable Product Program)'은 팀들이 소외된 커뮤니티들에 긍정적인 영향을 미치려면 어떠한 크고 작은 변화를 이끌어내야 할지 고려하도록 지원하기 위해 마련되었습니다. 이 프로그램은 직원들에게 자신이 만드는 제품과 기능에 대해 종합적으로 생각해볼 수 있는 도구를 제공합니다. 특히 직원들은 새롭게 생기는 기능이 소외된 커뮤니티에 미칠 만한 영향을 고려하는 데 도움을 얻을 수 있습니다. '공정한 제품 프로그램'에서는 공정성을 염두에 둔 제품 감사 절차 가이드와 교육을 제공하고, 코드에서 편견을 담은 용어를 다른 명칭으로 변경할 수 있도록 지원합니다(예: '화이트리스트'와 '블랙리스트' 같은 업계 표준 용어를 '허용 리스트'와 '차단 리스트'로 변경함). 지금까지는 Instagram에서 가장 규모가 큰 세 팀(피드 및 스토리 팀, 릴스 팀, 크리에이터 팀)과 협업하여 관련 제품을 재검토하고 어떤 개선 사항을 적용할 수 있을지 파악하는 작업을 진행해왔습니다. 앞으로는 1년 반에 걸쳐 모든 Instagram 팀을 대상으로 이 프로그램을 확대 시행할 계획입니다.

보다 기술적인 측면에서는 Instagram에서 머신 러닝 모델 카드를 내놓은 바 있습니다. 이는 새로운 머신 러닝이 공정성을 최우선에 두고 설계되도록 도움을 주는 체크리스트입니다. 모델 카드는 설문지와 유사한 방식으로, 이를 통해 팀들은 새로운 모델을 적용하기에 앞서 해당 모델이 미칠 만한 영향을 살펴보는 시간을 갖게 됩니다. 이러한 과정을 거치면 알고리즘상의 잠재적 편견을 줄일 수 있습니다. 모델 카드는 공정성에 관련된 여러 질문과 고려 사항들을 제시하여 특정 커뮤니티에 의도하지 않은 영향이 미칠 가능성을 줄이는 데 도움이 됩니다. 또한 이를 활용해 새로운 기술로 인해 생길 만한 부정적인 영향을 해당 기술이 출시되기 전에 미리 바로잡을 수 있습니다. 한 가지 예를 들면, Instagram은 미국 대선에 앞서 사람들이 허위 정보나 폭력적 콘텐츠를 마주칠 가능성을 줄이기 위해 일시적인 조치를 취한 바 있습니다. 이에 따라 Instagram의 여러 팀들은 모델 카드를 활용해 선거를 보호하는 데 적절한 머신 러닝 모델이 사용되도록 하고, Instagram의 규정 시행이 공정하게 진행되어 어느 커뮤니티에도 불공평한 영향이 미치지 않도록 확인했습니다.

Instagram은 앞으로 18개월에 걸쳐 이 프로그램을 확대 시행할 계획입니다. 그러면 Instagram의 모든 팀들이 모델 카드를 활용해 기술 개발의 모든 단계에서 공정성을 구현하고 소외된 커뮤니티에 미칠 만한 잠재적 영향을 줄여나가는 데 도움이 될 전망입니다.

기술과 자동 시스템을 통해 Instagram 플랫폼의 공정성 증진하기

이번 리서치에서 반복적으로 드러난 주제는 바로 사람들이 Instagram 시스템의 작동 방식과 콘텐츠에 관련된 결정 방식을 더욱 투명하게 알고 싶어 한다는 점이었습니다. 사람들은 본인 계정의 성장 및/또는 참여가 이해할 수 없는 방식으로 영향을 받았다고 생각하는 경우가 있었는데, 이러한 영향을 '섀도우배닝(shadowbanning)'이라 칭하기도 했습니다. Instagram은 사람들과 대화를 나누며 '섀도우배닝'이 다음에 연관되는 경우가 많다는 사실을 파악할 수 있었습니다.

• 이전보다 좋아요 또는 댓글 수가 줄어들 만한 이유에 대한 이해 부족.
• Instagram의 결정과 정책이 다양한 커뮤니티의 실제 경험에서 우러나는 문화적 및/또는 역사적 뉘앙스를 고려하지 않는다는 인식.
• 특정 커뮤니티에게는 규정을 적용하고 다른 커뮤니티에게는 그렇게 하지 않는다고 여기거나 Instagram 시스템이 명확한 설명 없이 콘텐츠를 삭제한다고 여기는 등 Instagram의 규정 시행에 관련된 혼란.
• 일부 사람들이 억압의 방식으로 인식할 수도 있는 기술적인 문제.

Instagram은 리서치를 통해 편견에 대한 인식이 존재하는 이유를 자세히 알아보고, 이를 바탕으로 도구와 제품의 투명성을 높이기 위한 기반을 다질 수 있었습니다. 여기에는 사용자의 계정에 제한이 적용된 경우나 도달이 줄어든 경우와 관련해 보다 높은 투명성을 제공하는 도구와 더불어, 사용자가 이러한 상황을 개선하기 위해 취할 수 있는 조치가 포함됩니다. 또한 Instagram은 버그 및 기술적인 문제가 콘텐츠에 영향을 미칠 경우 사람들에게 이러한 내용을 알리는 앱 내 직접 커뮤니케이션 기능도 구현할 계획입니다. 이러한 새로운 기능들에 대해서는 앞으로 더 자세한 내용을 알려드리겠습니다.

Instagram을 활용해 경제적 역량을 강화할 수 있는 더 많은 기회 창출하기

지금까지 팬데믹이 유행하는 기간 내내 소외된 커뮤니티들은 의료 서비스에 접근하기가 더 어렵고 실직을 겪는 등 다른 커뮤니티에 비해 상대적으로 더욱 큰 영향을 받아왔습니다. 이러한 현상의 원인은 제도적인 인종차별과 구조적인 인종차별에 그 뿌리를 두고 있으므로 이를 해결하기 위해서는 우리 사회가 함께 노력해야 합니다. Facebook과 Instagram은 우리의 플랫폼을 활용하여 가능한 모든 곳에서 격차를 줄이는 데 일조하고자 합니다. 의료 서비스 격차 문제를 해결하기 위해 당사의 보건 팀들과 긴밀하게 협력하여 백신 안전성, 접종 대상, 접종 가능 여부에 관한 정확한 리소스를 사람들에게 안내하기 위해 노력을 기울이고 있습니다.

보다 일반적인 문제로 눈을 돌려보면, 전 세계적으로 흑인들이 경제적인 기회를 잡을 가능성이 상대적으로 낮을 때가 많다는 사실도 잘 알고 있습니다. 우리 사회에 만연한 제도적 및 구조적 인종차별을 Instagram이 단독으로 해결할 수는 없지만, Instagram에서 이러한 격차를 줄여나가는 데 일조할 수 있도록 기회를 모색할 수 있습니다. 특히 흑인 비즈니스와 크리에이터들을 지원하는 측면에 있어서는 더욱 그렇습니다. Instagram은 작년에 이러한 노력을 시작하면서 Facebook과 Instagram의 흑인 크리에이터를 대상으로 2,500만 달러의 지원을 약속한 바 있습니다. 또한 이러한 투자의 일환으로 차세대 흑인 크리에이터들이 온라인과 오프라인에서 성공을 거두는 데 도움을 얻을 수 있도록 자금과 리소스를 제공하는 새로운 프로그램을 선보였습니다. 이와 더불어 스토리에서는 사람들이 흑인이 운영하는 비즈니스를 알아보고 지원할 수 있도록 #BuyBlack 스티커를 출시했습니다. 앞으로는 사람들이 흑인 운영 비즈니스를 발견하고 지원하는 데 도움이 되는 새로운 제품 기능을 선보일 예정이며, Instagram에서 흑인 운영 비즈니스를 찾아볼 수 있도록 구체적인 기능을 만들고 유해할 만한 상호 작용으로부터 이들을 보호하기 위해 노력할 계획입니다.

평등팀은 Instagram에서 소외된 커뮤니티들의 경험을 개선하기 위해 매일같이 노력하고 있습니다. 저희는 작년에 진행한 리서치를 통해 이들의 경험을 더 깊이 있게 파악하고 이해할 수 있었지만, 앞으로 이 분야에서 우리가 해야 할 일들이 아직 많다는 사실을 잘 알고 있습니다. 평등팀은 앞으로도 Instagram 플랫폼을 이용하는 모든 사람들이 안심하고 자신을 표현하고, 우리의 도구를 통해 역량을 강화하며, Instagram의 지원을 받을 수 있도록 끊임없이 노력을 기울여 나가겠습니다.