커뮤니티 악용 사례를 방지하기 위한 새로운 도구 도입

최근에 저희는 악의적인 Direct 메시지(DM)를 보내는 사람들에게 더 강력한 페널티를 적용하는 등 Instagram상의 악용 사례와 혐오 발언에 맞서 싸우기 위한 저희의 노력과 관련하여 업데이트 소식을 공유했습니다. 이제 사람들이 애초에 악의적인 DM을 볼 수 없도록 보호하는 새로운 방법과 차단된 사람이 새로운 계정으로 연락하는 것을 막는 기능을 발표합니다.

악의적인 메시지를 필터링하는 새로운 기능

악성 콘텐츠(인종 차별, 성차별, 동성애 혐오 또는 기타 모든 종류의 악용 사례 포함)는 사람들에게 엄청난 영향을 미칠 수 있습니다. 누구도 Instagram에서 이런 경험을 해서는 안 됩니다. 하지만 악용 사례에 맞서 싸우는 일은 복잡한 문제이고 문제의 뿌리를 뽑을 수 있는 단 하나의 조치가 존재하는 것도 아닙니다. 예를 들어 많은 커뮤니티 구성원, 특히 팔로워가 많은 사람들이 DM 요청 받은 메시지함에서 자신이 팔로우하지 않는 사람들로부터 받은 악의적인 메시지를 보고 있다는 점을 저희도 잘 알고 있습니다.

DM은 비공개 대화이기 때문에 Instagram의 다른 곳과 달리 저희가 적극적으로 혐오 발언이나 괴롭힘 사례를 찾아내고 있지는 않습니다. 바로 이 때문에 새로운 도구를 도입하게 되었습니다. 이 도구를 설정하면 불쾌한 단어, 문구 및 이모티콘이 포함된 DM 요청이 자동으로 필터링되므로 불쾌한 내용을 직접 확인하지 않아도 됩니다. 이 도구는 친구들에게 메시지를 받는 일반적인 DM 받은 메시지함과 달리 사람들이 보통 악의적인 메시지를 받는 DM 요청에 초점을 맞추었습니다. 작동 원리는 이미 저희가 제공하고 있는 댓글 필터와 유사합니다. 댓글 필터를 사용하면 불쾌한 댓글을 숨기고 게시물 아래의 댓글 섹션에서 사람들이 사용하지 않았으면 하는 용어를 선택할 수 있습니다. '개인정보 설정'의 '숨겨진 단어'라는 새로운 전용 섹션에서 댓글 필터와 DM 요청 필터를 모두 설정하고 해제할 수 있습니다.

저희는 이 기능 설정 시 DM 요청에서 불쾌한 용어가 필터링되도록 차별 방지 및 괴롭힘 방지 관련 선두 단체와 함께 이러한 용어가 포함된 리스트를 미리 정의했습니다. 사람마다 마음에 상처를 입는 단어가 다를 수 있기 때문에 DM 요청에서 보고 싶지 않은 단어, 문구 또는 이모티콘을 포함한 사용자 지정 리스트를 만들 수도 있습니다. 사용자 지정 리스트에 있든 미리 정의된 리스트에 있든 이러한 불쾌한 단어, 문구 또는 이모티콘을 포함한 모든 DM 요청은 자동으로 필터링되어 별도의 숨겨진 요청 폴더로 이동됩니다. 이 폴더를 열 경우 메시지 텍스트가 가려지므로 눌러서 가려진 텍스트를 표시하지 않는 한 불쾌한 표현을 보지 않게 됩니다. 여기에서 메시지 요청을 수락하거나, 삭제하거나, 신고할 수 있습니다.

이 새로운 기능은 불쾌하거나 악의적일 수 있는 DM 요청으로부터 사용자를 보호하고 사용자의 개인정보를 보호하기 위해 제작되었습니다. 모든 메시지 필터링은 사용자 기기에서 적용됩니다. 즉, 이 기능을 사용해도 메시지 콘텐츠가 저희 측 서버로 다시 전송되지 않습니다. 또한 이 기능을 사용해도 DM 요청의 콘텐츠가 저희에게 공유되지 않습니다. 단, 해당 콘텐츠가 신고된 경우는 예외입니다.

앞으로 몇 주 안에 여러 국가를 대상으로 이 기능을 공개하기 시작할 것이며, 몇 달 안에 더 많은 국가로 기능을 확장할 방안도 모색할 것입니다.

원치 않는 연락으로부터 자신을 보호하는 새로운 방법

이미 차단한 사람이 새로운 계정으로 다시 연락하기 더 어렵게 만드는 조치도 취하고 있습니다. 이 기능을 사용하면 Instagram에서 누군가를 차단할 때 그 사람의 계정을 차단할 수 있을 뿐 아니라 동일한 사람이 만들 수도 있는 새로운 계정도 사전에 차단할 수 있습니다. 이 기능은 앞으로 몇 주 안에 전 세계적으로 제공됩니다.

이는 사람들이 연락을 원치 않는 상대방에게 반복적으로 연락하는 행위를 이미 금지한 Instagram의 괴롭힘 방지 정책에 부가적으로 시행되는 조치입니다. 저희는 상습적 위반 행위도 허용하지 않습니다. 이에 따라 누군가의 계정이 Instagram 규칙을 위반하여 비활성화될 경우 동일인으로 파악되는 모든 새로운 계정도 삭제됩니다.

불쾌한 댓글에 맞서 싸우기 위한 노력 이어나가기

Instagram의 사전 감지 기술을 사용하여 정책을 위반하는 댓글을 찾아내는 것과 동시에 저희는 여러분이 댓글에서 악용 사례를 관리하는 데 도움이 되는 여러 가지 도구를 제공하고 있습니다. 공개 계정을 가지고 있다면 여러분이 팔로우하는 사람들 및/또는 여러분을 팔로우하는 사람들의 댓글만 허용할 수 있습니다.

수동 댓글 필터 리스트에 포함된 불쾌한 단어 중 흔한 철자 오류가 있는 단어도 숨기기 시작할 것입니다. 이렇게 하면 보고 싶지 않은 단어가 실수로 혹은 의도적으로 잘못 표기되더라도 댓글에 해당 단어가 표시되지 않습니다.

저희가 노력해야 할 부분이 아직 남아 있음을 잘 알고 있으며 앞으로도 계속해서 괴롭힘과 온라인 악용 사례에 맞서 싸우기 위해 최선을 다할 것입니다. 그리고 이 과정에서 지속적으로 전문가, 업계 단체, 청소년, 크리에이터, 공인들과 함께 Instagram상의 경험을 이해하고 온라인 악용 사례로부터 이들을 보호하기 위해 Instagram 정책 및 제품을 개선할 수 있는 방법을 파악해나갈 것입니다.