온라인 따돌림 방지를 위한 노력을 적극적으로 주도하고 있는 Instagram

작성자:  

애덤 모세리(Adam Mosseri), Instagram 대표

2019년 7월 8일

여러분이 좋아하는 사람들, 그리고 그 밖의 것들과 연결해주는 것. 그것이 바로 Instagram의 존재 이유입니다. Instagram에서 사람들이 자유롭게 자신을 표현할 수 있다고 느끼지 못한다면 불가능한 일이죠. 따돌림은 많은 이가 겪고 있는 문제이며, 특히 청소년들이 이 문제에 취약합니다. Instagram은 업계 내에서 온라인 따돌림 방지를 위한 노력을 적극적으로 주도하고 있습니다. 이 노력을 뒷받침하기 위해 전반적인 Instagram 경험을 완전히 개편하고 있습니다.

Instagram에서 따돌림 문제를 방지하기 위해 할 일이 더 남아 있습니다. 따돌림 피해자들이 스스로를 지킬 수 있도록 지원하기 위해서 할 수 있는 일도 아직 많죠. 오늘은 두 영역에 해당하는 새로운 기능 하나씩을 발표합니다. Instagram에서 따돌림이 어떤 방식으로 일어나는지, 그리고 사람들이 따돌림에 어떻게 대응하는지를 심층적으로 이해하려 노력한 결과 이러한 도구가 탄생했습니다. 하지만 아직 갈 길이 멉니다.

긍정적인 상호 작용 장려하기

온라인 따돌림은 복잡한 문제입니다. Instagram은 벌써 몇 년 전부터 인공 지능을 바탕으로 댓글, 사진, 동영상에서 따돌림 및 기타 유형의 유해한 콘텐츠를 감지하기 시작했습니다. 우리 커뮤니티가 불어나면서 관련 기술에 대한 Instagram의 투자도 함께 늘고 있죠. 이는 청소년에게 특히 중요한 조치입니다. 청소년은 따돌림에 가장 취약한 집단인데도 불구하고 온라인 따돌림을 잘 신고하지 않기 때문입니다.

며칠 전부터 Instagram은 AI를 바탕으로 제공되는 새로운 기능을 발표하기 시작했습니다. 바로, 댓글이 공격성을 띠는 것으로 판단될 수 있을 때 게시 전에 작성자에게 이를 알리는 기능입니다. 이렇게 개입함으로써 사람들이 자신의 댓글에 대해 잠시 생각해보고 댓글을 취소하여 상대방이 유해한 댓글 알림을 받지 않도록 할 수 있죠. 초기 테스트 결과, 생각해볼 기회를 얻은 사람들 중 일부가 댓글을 취소하고 상대방에게 상처를 덜 주는 내용을 공유한 것으로 나타났습니다.

Instagram의 댓글 경고

'제한' 기능으로 계정에서 원치 않는 상호 작용 방지하기

Instagram에서 따돌림을 식별하고 관련 콘텐츠를 삭제하는 것이 중요한 것은 맞지만 우리 커뮤니티가 이러한 행동에 맞서 싸울 수 있도록 지원하는 조치도 필요합니다. 우리 커뮤니티의 청소년들은 가해자를 차단하거나 팔로우 취소하거나 신고하기를 꺼렸는데요. 이렇게 하면 상황이 악화될 수 있기 때문입니다. 실제 생활에서 가해자를 만나는 상황이라면 더욱 그럴 가능성이 크죠. 이러한 조치 중 일부는 피해자가 가해자의 행동을 추적하기 어렵게 만들기도 합니다.

저희는 가해자에게 알림이 가는 일 없이 피해자가 자신의 Instagram 경험을 관리할 수 있는 기능을 만들고자 했습니다. 곧 계정에서 원치 않는 상호 작용을 방지하기 위한 새로운 방법인 '제한' 기능을 테스트하기 시작할 계획입니다. 누군가를 제한하면 제한된 사람이 여러분의 게시물에 남긴 댓글이 그 사람에게만 보입니다. 댓글이 제한된 사람의 댓글을 승인하면 해당 댓글이 다른 사람들에게 표시됩니다. 댓글이 제한된 사람은 여러분이 Instagram에서 활동 중일 때나 그 사람의 direct 메시지를 읽었을 때 이 사실을 확인할 수 없습니다.

Instagram은 플랫폼에서 안전한 환경을 조성할 책임이 있습니다. 저희는 오래전부터 이러한 책임을 다하는 것에 주안점을 두고 있습니다. 또한 이 문제에 대한 이해도를 높이고 더 효과적으로 문제를 해결하기 위해 앞으로 계속해서 투자를 단행할 것입니다. 곧 더 많은 소식을 전해드리겠습니다.

애덤 모세리, Instagram 대표