업데이트: 평등을 이루기 위한 Instagram의 노력

By  

애덤 모세리(Adam Mosseri), Instagram 대표

게시 날짜: 2020년 9월 9일

전 세계적인 팬데믹, 다가오는 미국 대선, 인종 간의 갈등 등으로 혼란이 가중되는 요즘, 사람들이 Instagram 플랫폼을 이용하는 방식이 바뀌고 있습니다. 그 어느 때보다도 많은 사람들이 Instagram을 통해 자신이 중요하게 여기는 인종, 지역 사회, 여러 사회적 문제에 대해 목소리를 내며 인식을 촉구하고 있습니다. 그래서 저희는 지난 6월, Instagram이 특정 집단에 속하는 사람들에게 충분한 지원을 제공하지 못할 수 있는 경우에 대해 집중적으로 검토했습니다. Instagram 커뮤니티의 행동과 요구 사항을 더 정확하게 반영하는 경험을 제공하기 위해, 저희에게는 어떤 제품을 어떻게 개발하는지 철저히 검토해야 할 책임이 있습니다.

이번 여름 Instagram에서 업데이트된 사항은 아래와 같습니다. 아직 종합적인 내용은 아니며, 향후 업데이트가 계속 진행될 예정입니다. 하지만 Instagram이 계속 이처럼 중요한 조치를 취하고 있다는 사실을 커뮤니티에 속한 여러분이 알 수 있도록 업데이트 내용을 정기적으로 공유할 예정입니다.

평등 팀 신설

이러한 업데이트를 전면적으로 지원할 수 있는 평등 팀을 신설했습니다. 평등 팀은 전담 제품 그룹으로, Instagram의 제품 개발 및 고객 경험에 내재하는 편견을 더 정확하게 이해하고 해결하는 데 집중할 예정입니다. 평등 팀은 공정하고 평등한 제품을 개발하는 데 초점을 맞출 것입니다. 이 팀의 업무에는 알고리즘의 공정성을 유지하기 위해 Facebook의 책임감 있는 AI 팀과 협업을 진행하는 것도 포함됩니다. 또한 지원이 미흡한 커뮤니티의 요구 사항을 충족하기 위한 새로운 기능을 마련할 예정입니다. 그리고 이 새로운 제품 그룹과는 별개로, 다양성 및 포용성 팀에 새로운 담당 책임자를 영입하여 더욱 다양한 인재를 발굴, 채용하고 성장시키고자 하는 Instagram의 목표를 향해 한 발짝 더 나아갈 계획입니다.

괴롭힘과 혐오

저희는 전 세계의 커뮤니티를 지원하기 위해 전사적으로 여러 정책을 개발 및 업데이트했습니다. 이번 정책 업데이트를 통해 '블랙페이스'를 묘사하는 콘텐츠나 유대인들에 대한 고정 관념 등 특정한 유형의 암묵적 혐오 발언을 더욱 구체적으로 설명하고자 합니다. 또한 심각한 수준의 성폭행 위협에 대한 조치를 강화하여, 이러한 내용이 파악되는 경우 이제 콘텐츠 삭제뿐만 아니라 위협을 가하는 계정 자체가 즉시 비활성화됩니다. 추가적으로, 비자발적 공인(유명해지기를 원하지 않았으며, 종종 소외된 커뮤니티에 속한 것으로 확인된 사람들)이 대중적으로 주목받기 전에 이들을 괴롭힘 및 따돌림으로부터 보호할 예정입니다.

저희는 혐오 단체에 관한 Instagram 정책을 위반하는 콘텐츠의 삭제를 우선순위에 두어왔습니다. 이러한 노력의 일환으로 Instagram에서 23개의 서로 다른 금지된 단체를 퇴출했으며, 이들 중 절반 이상은 백인 우월주의를 주장합니다. 최근에는 QAnon 등 폭력과 연관성이 있는 단체에 대한 조치의 업데이트를 발표했습니다.

또한 저희는 크리에이터와 비즈니스를 위한 업데이트를 적용한 바 있습니다. 예를 들어 비즈니스 및 크리에이터 계정을 보유한 사람들은 이제 누가 자신에게 Direct 메시지를 보낼 수 있는지 관리할 수 있습니다. 또한 이제 댓글 경고 기능이 Live 댓글에도 확대 적용되어, 사람들이 댓글을 올리기 전에 내용이 공격적이지 않은지 다시 한 번 생각할 수 있도록 알림이 표시됩니다.

인증

저희는 지난 두 달간 Instagram의 인증 시스템을 검토했고, 더욱 공정한 절차를 만들기 위해 변경 사항을 적용하기 시작했습니다. 계정이 Instagram의 인증을 받으려면 인지도 수준을 비롯한 특정 기준을 충족해야 합니다. 인지도는 인증을 신청한 사람에 대해 다루는 언론 기사를 통해 측정됩니다. 이제 이 절차에 사용되는 언론 출처 범위를 확대함으로써 더 많은 흑인, LGBTQ+, 라틴계 관련 미디어를 고려하게 됩니다.

앱 내 양식(누구든지 신청 가능)을 통해 인증을 받는 데 있어 팔로워 수는 요구 사항이 아니었지만, 저희는 매일 접수하는 수만 건의 요청을 처리하는 데 도움을 받기 위해 팔로워 수가 높은 계정의 순위를 올리는 몇 가지 시스템을 활용했습니다. 이제 이 시스템은 자동화된 과정에서 제거되었습니다.

배포

저희는 Instagram에서의 콘텐츠 검열을 둘러싼 지속적인 우려 사항을 고려하여, 탐색 탭 등의 위치에 노출되는 콘텐츠 유형을 파악하는 데 사용하는 가이드라인을 최근에 배포했습니다. 이 가이드라인을 통해 Instagram과 Facebook에서 특정 유형의 콘텐츠가 추천 항목에 포함되지 않고, 따라서 더 많은 노출 위치에 배포되지 않을 수 있는 이유를 사람들이 더욱 잘 이해할 수 있도록 알리고자 합니다. 저희는 이러한 가이드라인을 개발하는 데 필요한 추천 시스템, 소셜 컴퓨팅, 표현의 자유, 안전, 시민권 및 디지털 권리에 대한 전문 지식을 보유한 50명 이상의 전문가로부터 자문을 구했습니다.

첫 번째 게시물을 통해 말씀드렸듯 이러한 조치에는 시간이 걸립니다. 하지만 중요한 것은 이를 실행에 옮기고, 충분한 시간을 들여 올바르게 해내는 것입니다. Instagram의 이러한 노력에 동참하고 싶으신 분은 Instagram의 정책 팀제품 팀에서 현재 채용 중인 직무를 살펴보세요.