온라인 폭력에 맞서기 위한 Facebook의 노력

Facebook의 목표는 회원님이 사랑하는 것들과 사람들을 회원님에게 연결해 드리는 것입니다. 이 목표는 사람들이 Instagram에서 자신을 거리낌없이 표현할 때 비로소 가능합니다. Facebook은 많은 사람들, 특히 나이가 어린 사람들이 폭력이라는 문제에 직면해 있다는 사실을 잘 알고 있습니다. Facebook은 온라인 폭력에 맞서기 위해 업계에서 발벗고 나설 것을 약속합니다. 그리고 그 약속을 지키기 위해 Instagram의 모든 경험을 재고하고 있습니다.

Facebook은 Instagram에서 폭력이 발생하는 것을 방지하고 폭력의 대상이 되는 사용자가 스스로 맞설 수 있도록 더 많은 기능들을 개선해 지원을 도모할 것입니다. 오늘 두 영역에서 모두 적용되는 새로운 기능 하나를 알려드립니다. 이 도구는 사람들이 서로 어떻게 폭력을 행사하는지와 그들이 Instagram에서 폭력에 어떻게 맞서는지에 대한 깊은 이해를 바탕으로 하고 있지만 더 장거리에서 봤을 때는 두 단계만 있습니다.

긍정적 상호 작용 유도

온라인 폭력은 복잡한 문제입니다. 수년 동안 Facebook은 댓글, 사진 및 동영상에서 폭력 및 기타 유해 콘텐츠 유형을 감지하기 위해 인공 지능 기능을 사용해 왔습니다. 커뮤니티의 성장에 따라 기술에 쏟는 투자 역시 발전하고 있습니다. 이것은 십대 청소년에게 특히 중요합니다. 십대 청소년은 온라인 폭력을 많이 겪더라도 온라인 폭력을 신고할 가능성이 적기 때문입니다.

지난 며칠 동안 Facebook은 AI가 제공하는 새로운 기능을 발표하기 시작했습니다. 바로, 자신의 의견이 게시되기 전에 공격성을 띠는 것으로 판단될 수 있음을 사람들에게 알리는 기능입니다. 이 기능을 통해 사용자는 의견을 내놓으면서도 취소할 수 있는 기회를 가질 수 있고, 의견을 받는 사람은 해로운 의견에 대한 알림을 받지 않게 됩니다. 이 기능의 초기 테스트에서 Facebook은 일부 사용자가 이렇게 반영할 기회를 갖게 되면 의견을 취소하고 상처가 덜 되는 방식으로 의견을 공유하게 된다는 사실을 발견했습니다.

제한(Restrict)을 통해 원치 않는 상호 작용으로부터 계정 보호

Instagram에서 폭력을 식별하고 없애는 일이 중요하기는 하지만, 아울러 커뮤니티도 이런 행동 양식을 유지할 수 있는 역량을 갖추어야 합니다. Facebook은 커뮤니티의 나이가 어린 세대로부터 상황이 악화되는 것이 싫은 마음에, 폭력 행사자를 차단하거나 팔로우를 취소하거나 신고하는 것을 꺼려한다고 들었습니다. 특히 그들이 실제 생활에서 폭력을 당하는 경우 더욱 그렇습니다. 이러한 일부 행동으로 인해 대상이 폭력 행사자의 행동을 추적하는 것이 어려워지기도 합니다.

Facebook은 대상이 될 수 있는 사용자에게 그러한 사실을 알리지 않으면서도 그들의 Instagram 경험을 통제할 수 있는 기능을 만들기를 원했습니다. 머지않아 원치 않는 상호 작용으로부터 계정을 보호하기 위해 제한(Restrict)이라는 새로운 방식을 테스트할 것입니다. 회원님이 누군가를 ‘제한’하면 그렇게 제한된 사용자가 회원님의 게시물에 댓글을 달 경우 그러한 댓글은 해당 사용자에게만 표시됩니다. 이렇게 제한된 사람의 댓글은 회원님이 승인을 하면, 다른 사람에게 표시되도록 할 수도 있습니다. 제한된 사람들은 회원님이 Instagram에서 활동 중이거나 그들의 Direct 메시지를 읽었을 때 그러한 상태를 알 수 없습니다.

안전한 Instagram 환경을 조성하는 것은 우리의 책임입니다. 이 주제는 우리에게 얼마간 중요한 우선순위였습니다. Facebook은 이와 관련해 더 깊이 이해하고 효과적으로 대응하기 위해 계속해서 노력을 쏟을 것입니다. 곧 더 많은 소식을 전해 드릴 수 있기를 기대합니다.

Instagram CEO Adam Mosseri 드림