온라인 따돌림 방지를 위한 노력을 적극적으로 주도하고 있는 Instagram

여러분이 좋아하는 사람들, 그리고 그 밖의 것들과 연결해주는 것. 그것이 바로 Instagram의 존재 이유입니다. Instagram에서 사람들이 자유롭게 자신을 표현할 수 있다고 느끼지 못한다면 불가능한 일이죠. 따돌림은 많은 이가 겪고 있는 문제이며, 특히 청소년들이 이 문제에 취약합니다. Instagram은 업계 내에서 온라인 따돌림 방지를 위한 노력을 적극적으로 주도하고 있습니다. 이 노력을 뒷받침하기 위해 전반적인 Instagram 경험을 완전히 개편하고 있습니다.

Instagram에서 따돌림 문제를 방지하기 위해 할 일이 더 남아 있습니다. 따돌림 피해자들이 스스로를 지킬 수 있도록 지원하기 위해서 할 수 있는 일도 아직 많죠. 오늘은 두 영역에 해당하는 새로운 기능 하나씩을 발표합니다. Instagram에서 따돌림이 어떤 방식으로 일어나는지, 그리고 사람들이 따돌림에 어떻게 대응하는지를 심층적으로 이해하려 노력한 결과 이러한 도구가 탄생했습니다. 하지만 아직 갈 길이 멉니다.

긍정적인 상호 작용 장려하기

온라인 따돌림은 복잡한 문제입니다. Instagram은 벌써 몇 년 전부터 인공 지능을 바탕으로 댓글, 사진, 동영상에서 따돌림 및 기타 유형의 유해한 콘텐츠를 감지하기 시작했습니다. 우리 커뮤니티가 불어나면서 관련 기술에 대한 Instagram의 투자도 함께 늘고 있죠. 이는 청소년에게 특히 중요한 조치입니다. 청소년은 따돌림에 가장 취약한 집단인데도 불구하고 온라인 따돌림을 잘 신고하지 않기 때문입니다.

며칠 전부터 Instagram은 AI를 바탕으로 제공되는 새로운 기능을 발표하기 시작했습니다. 바로, 댓글이 공격성을 띠는 것으로 판단될 수 있을 때 게시 전에 작성자에게 이를 알리는 기능입니다. 이렇게 개입함으로써 사람들이 자신의 댓글에 대해 잠시 생각해보고 댓글을 취소하여 상대방이 유해한 댓글 알림을 받지 않도록 할 수 있죠. 초기 테스트 결과, 생각해볼 기회를 얻은 사람들 중 일부가 댓글을 취소하고 상대방에게 상처를 덜 주는 내용을 공유한 것으로 나타났습니다.

'제한' 기능으로 계정에서 원치 않는 상호 작용 방지하기

Instagram에서 따돌림을 식별하고 관련 콘텐츠를 삭제하는 것이 중요한 것은 맞지만 우리 커뮤니티가 이러한 행동에 맞서 싸울 수 있도록 지원하는 조치도 필요합니다. 우리 커뮤니티의 청소년들은 가해자를 차단하거나 팔로우 취소하거나 신고하기를 꺼렸는데요. 이렇게 하면 상황이 악화될 수 있기 때문입니다. 실제 생활에서 가해자를 만나는 상황이라면 더욱 그럴 가능성이 크죠. 이러한 조치 중 일부는 피해자가 가해자의 행동을 추적하기 어렵게 만들기도 합니다.

저희는 가해자에게 알림이 가는 일 없이 피해자가 자신의 Instagram 경험을 관리할 수 있는 기능을 만들고자 했습니다. 곧 계정에서 원치 않는 상호 작용을 방지하기 위한 새로운 방법인 '제한' 기능을 테스트하기 시작할 계획입니다. 누군가를 제한하면 제한된 사람이 여러분의 게시물에 남긴 댓글이 그 사람에게만 보입니다. 댓글이 제한된 사람의 댓글을 승인하면 해당 댓글이 다른 사람들에게 표시됩니다. 댓글이 제한된 사람은 여러분이 Instagram에서 활동 중일 때나 그 사람의 direct 메시지를 읽었을 때 이 사실을 확인할 수 없습니다.

Instagram은 플랫폼에서 안전한 환경을 조성할 책임이 있습니다. 저희는 오래전부터 이러한 책임을 다하는 것에 주안점을 두고 있습니다. 또한 이 문제에 대한 이해도를 높이고 더 효과적으로 문제를 해결하기 위해 앞으로 계속해서 투자를 단행할 것입니다. 곧 더 많은 소식을 전해드리겠습니다.

애덤 모세리, Instagram 대표