인스타그램, AI로 사이버폭력 막는다
상태바
인스타그램, AI로 사이버폭력 막는다
  • 최명진 소비자기자
  • 승인 2020.09.18 14:58
  • 댓글 0
이 기사를 공유합니다

AI 기술 이용한 댓글 경고 기능 도입
DM 수신 가능 범위 설정, 댓글 ‘제한하기’ 등의 기능도 개발 예정

[소비라이프/최명진 소비자기자] 인스타그램은 15일 온라인 기자 간담회를 통해 사이버폭력을 막기 위한 새로운 기능을 발표했다. 필립 추아 정책 아시아태평양(APAC) 총괄은 인공지능(AI) 기술과 사내 리뷰팀 인력을 동시 활용함으로써 폭력으로부터 자유롭고 안전한 플랫폼을 만들 것을 공언했다.

출처 : pixabay
출처 : pixabay

현재 인스타그램 리뷰팀은 신고가 들어온 콘텐츠를 검토한 후, 해당 콘텐츠의 인스타그램 정책 위반 여부를 판단한다. 추아 총괄은 게시물의 앞뒤 맥락을 이해하는 데에 있어서 여전히 인간이 기계보다 효율적이므로 콘텐츠 검토 프로세스의 중심에는 리뷰 인력을 배치하지만, 검토 정확도와 속도 향상을 위해 AI 기술을 개선하겠다는 의지를 밝혔다. 실제로 현재 인스타그램은 페이스북과 협업해 AI 기술을 고도화하고 최신 트렌드를 학습하도록 하고 있다.

이러한 정책 기조에 맞추어, 인스타그램은 9월 중 AI 기술을 이용한 ‘댓글 경고 기능’을 도입한다. 부정적인 댓글을 작성할 경우, AI가 게시 전 이를 감시해 해당 댓글에 대한 경고를 해서 작성자가 스스로 댓글을 취소하거나 표현을 순화하도록 하는 기능이다. 또한, 최근 이용자가 다른 사람의 게시글에 자신이 태그되는 범위를 지정할 수 있도록 한 것에 이어, ‘다이렉트 메시지(DM) 수신 가능 범위 설정’, 댓글을 몰래 가리는 ‘제한하기’ 등의 기능도 도입될 예정이다.

사이버폭력은 기술의 발전과 함께 등장한 심각한 부작용이다. 2018년 교육부가 발표한 학교폭력 실태조사 결과에 따르면, 학교폭력을 경험한 5만 명의 초중고생 중 ‘사이버폭력’을 당한 학생이 신체적 폭력을 경험했다는 비율보다 많았다. 또한, 작년 방송통신위원회가 발표한 ‘2019년 사이버폭력 실태조사’ 결과에 따르면 사이버폭력을 경험한 이용자 비율은 33.5%였는데, 이는 인터넷 이용자 세 명 중 한 명이 사이버폭력을 겪었음을 의미한다. 최근 온라인에서 사회적 심판을 받게 하겠다는 명목의 ‘디지털 교도소’가 무고한 모 교수를 가해자로 지목해 논란을 일으키는 등, 언택트 시대에 온라인 활동이 활발해지면서 사이버폭력은 더욱 엄격히 다루어져야 한다는 목소리가 나오고 있다.

이에 한국정보화진흥원(NIA)은 현재 원격수업으로 학생들의 인터넷 이용률이 증가하고, 비대면 소통이 증가하는 상황에서 ‘건강한 온라인 소통’을 목적으로 사이버폭력 예방 교육을 온라인 실시간 교육으로 병행하여 추진하고 있다. 또한, 현재 고3 학생들이 내달 16일까지 시행되는 ‘2020 온라인 학교폭력 실태조사’에서 코로나19 및 대입 준비를 이유로 제외된 것에 대해서도, 학교폭력 실태조사와 대응 방안이 포스트 코로나에 발맞추어 모든 학생들을 대상으로 이루어져야 한다는 지적이 일고 있다.  

SNS 상에서의 혐오 표현과 사이버폭력은 오래 전부터 계속해서 논란이 되어왔다. 그러나 ‘표현의 자유’와 ‘알고리즘 편향성’ 등의 문제로 실질적인 대안은 여전히 미비한 상태이다. 일각에서 경고 메시지를 띄우는 방안은 문제를 알아서 해결하라고 하는 안일한 대책이라는 비판이 나오고 있음에도, 많은 인스타그램 사용자들이 이번 방침을 긍정적으로 평가하며 추후 플랫폼 측의 적극적인 노력을 기대하는 이유이다.

 



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.