커뮤니티 악용 사례를 방지하기 위한 새로운 방법 소개

By  

애덤 모세리(Adam Mosseri)

2021년 8월 10일

오늘 Instagram은 사람들이 겪는 악용 사례를 효과적으로 방지할 수 있는 여러 새로운 기능을 소개하고자 합니다.

  • 관심이 급증하는 시기에 댓글과 DM 요청을 일시 제한할 수 있는 기능
  • 불쾌감을 느끼게 할 만한 댓글을 게시하려는 경우 더욱 강력한 경고 표시
  • 악의적인 DM 요청을 필터링할 수 있는 '숨겨진 단어' 기능을 전 세계에 출시

Instagram은 모든 사람이 안심하고 Instagram을 이용할 수 있도록 안전한 환경을 제공해야 할 책임이 있습니다. Instagram에서는 혐오 발언이나 따돌림을 허용하지 않으며, 이러한 콘텐츠는 발견할 때마다 모두 삭제합니다. 또한 Instagram은 애초부터 사람들이 이러한 악용 사례를 경험하지 않도록 보호하고자 합니다. 이를 위해 전문가와 커뮤니티의 피드백에 꾸준히 귀를 기울이고, 사람들이 본인의 Instagram 경험을 더욱 효과적으로 관리하고 악용 사례를 방지하는 데 도움이 되는 새로운 기능을 개발하고 있습니다.

일시 제한: 원치 않는 댓글과 DM을 간편하게 차단하기

Instagram은 악의적인 댓글과 DM이 급증할 것으로 예상되는 사용자를 보호하기 위해 일시 제한 기능을 도입합니다. 이 기능은 간편하게 설정할 수 있으며, 여러분을 팔로우하지 않거나 최근 들어서야 팔로우한 사람들이 보내는 댓글과 DM 요청을 자동으로 숨깁니다.

이 기능을 개발한 이유는 크리에이터와 유명인이 모르는 사람들에게 갑자기 수없이 많은 댓글과 DM 요청을 받는 경우가 종종 있다는 피드백을 들었기 때문입니다. 이렇게 댓글과 DM 요청이 쏟아질 때에는 응원의 뜻이 담겨 있는 경우가 많습니다. 올림픽 메달을 따면 해당 선수가 입소문을 타게 되는 것과 같은 경우죠. 하지만 원치 않는 댓글이나 메시지의 홍수를 경험하는 경우가 될 때도 있습니다. 여러분이 이러한 상황을 겪고 있거나 곧 그럴 것이라 예상된다면 이제 일시 제한 기능을 설정해 원치 않는 상황을 피할 수 있습니다.

Instagram에서 진행한 리서치에 따르면 유명인을 향한 부정적인 정서 표현은 실제로 해당 사용자를 팔로우하지 않는 사람이나 최근 들어서야 팔로우한 사람들, 그리고 당시에 그냥 가세한 사람들에게서 비롯되는 경우가 많습니다. 이러한 사례는 최근 유로 2020 결승전 이후 선수들을 향한 인종 차별적 혐오 발언이 용인할 수 없는 수준으로 대폭 증가한 경우에서 찾아볼 수 있었죠. 크리에이터들 또한 댓글과 메시지를 아예 모두 차단하는 것은 원치 않는다고 이야기합니다. 여전히 커뮤니티의 목소리에 귀를 기울이고 커뮤니티 구성원들과 관계를 맺어나가고 싶기 때문입니다. 일시 제한 기능을 사용하면 오랜 팔로워들과는 소통을 계속하면서도 그저 괴롭히려는 목적으로 여러분의 계정을 방문했을 만한 사람들의 연락은 일시 제한할 수 있습니다.

일시 제한 기능은 오늘부터 전 세계의 모든 Instagram 사용자가 이용할 수 있습니다. 개인정보 설정에서 언제든지 일시 제한 기능을 설정하거나 해제하세요. Instagram은 사용자에게 댓글과 DM이 급증할 수 있는 경우 이를 감지하여 일시 제한 기능을 설정하라는 메시지를 표시하는 방법도 모색하고 있습니다.

괴롭힘을 막기 위한 더욱 강력한 경고 표시

Instagram은 누군가가 불쾌감을 느끼게 할 만한 댓글을 남기려는 경우 이미 경고를 표시하고 있습니다. 여러 차례에 걸쳐 불쾌감을 느끼게 할 만한 댓글을 남기려는 사람에게는 이제 더욱 강력한 경고를 표시하여 Instagram 커뮤니티 가이드라인을 상기시키고, 계속 진행할 경우 Instagram에서 해당 댓글을 삭제하거나 숨길 수 있다고 경고합니다. 즉 불쾌한 댓글이 반복되기를 기다리는 것이 아니라, 해당 댓글이 처음 게시되는 시점에 더욱 강력한 경고 메시지를 표시합니다.

이러한 경고는 실제로 불쾌한 내용을 게시하는 비율을 줄이는 데 효과가 있는 것으로 확인되었습니다. 예를 들어 지난주에 불쾌감을 느끼게 할 만한 댓글을 남긴 사람에게 경고를 표시한 횟수는 하루 평균 1백만 회 정도였으며, 이러한 댓글 중 약 50%가 경고 표시 후에 사용자에 의해 수정되거나 삭제되었습니다.

DM과 댓글을 통한 악용 사례 방지

Instagram은 DM 요청을 통한 악용 사례로부터 사람들을 보호하기 위해 최근 '숨겨진 단어' 기능을 발표했습니다. 이 기능을 사용하면 불쾌한 단어, 문구 및 이모티콘을 자동으로 필터링하여 '숨김' 폴더로 보낼 수 있습니다. 이 폴더는 원치 않으면 굳이 열어볼 필요가 없습니다. 이 기능은 스팸일 가능성이 있거나 확인할 가치가 없는 DM 요청도 필터링합니다. '숨겨진 단어' 기능은 올해 초 일부 국가에서 먼저 출시되었고, 이번 달 말부터는 전 세계 모든 사용자가 이용할 수 있게 됩니다. Instagram은 팔로워 수가 많은 계정을 대상으로 DM 받은 메시지함과 스토리 트레이 전면에 메시지를 표시하여 이 기능을 이용하도록 계속 권장할 예정입니다.

Instagram은 댓글에서 자동 필터링되는 불쾌감을 느끼게 할 만한 단어, 해시태그 및 이모티콘 리스트를 확대한 바 있으며, 앞으로도 꾸준히 이 리스트를 수시로 업데이트할 예정입니다. 최근에는 Instagram의 규정을 위반하지 않았더라도 불쾌감을 느끼게 할 만한 댓글을 숨길 수 있는 '댓글 더 숨기기' 옵션을 새로 추가했습니다.

온라인상의 악용 사례 방지를 위한 지속적인 노력

Instagram은 이러한 여러 새로운 기능을 통해 인종 차별, 성차별, 동성애 혐오를 비롯한 모든 악의적 콘텐츠로부터 사람들을 더욱 효과적으로 보호할 수 있기를 기대합니다. 물론 저희는 여전히 해야 할 일이 많다는 사실도 잘 알고 있습니다. 여기에는 악의적 콘텐츠를 보다 빨리 찾아내어 삭제할 수 있도록 시스템을 개선하고, 그러한 콘텐츠를 게시한 사람들에게 책임을 묻는 것이 포함됩니다. 또한 Instagram은 플랫폼에서 혐오를 물리치기 위해 모든 노력을 기울이고는 있지만, 그렇다고 해도 Instagram 단독으로 이러한 문제를 해결하지는 못한다는 점도 알고 있습니다. 이에 따라 앞으로도 인종 차별 철폐와 평등 실현에 주력하는 단체에 지속적으로 투자하고, 업계와 정부 및 비정부 단체와 더욱 긴밀하게 협력하여 혐오를 근절하기 위한 교육과 지원을 제공하겠습니다. 이러한 노력은 끊임없이 이어질 것입니다. 앞으로 계속해서 Instagram이 기울이는 노력의 진행 상황에 대한 새로운 소식을 공유하도록 하겠습니다.