"AI까지 총동원" 네이버 '악플과의 전쟁' 초강수에…설자리 잃은 '악플러'
상태바
"AI까지 총동원" 네이버 '악플과의 전쟁' 초강수에…설자리 잃은 '악플러'
  • 홍용석
  • 승인 2020.07.24 09:10
  • 댓글 0
이 기사를 공유합니다

© News1 


지난해 10월 악플에 시달리다 세상을 떠난 가수 겸 배우 설리(본명 최진리) 사건을 계기로 본격적인 '악플과의 전쟁'에 나선 네이버가 소기의 성과를 거두고 있다.

댓글 작성자의 활동 이력을 모두 공개해 악플러의 '민낯'을 드러내고 특정 댓글 작성자의 댓글을 원천 차단하자 악성 댓글 작성과 노출 모두 쪼그라들었다. 인공지능(AI) '클린봇'의 꾸준한 업그레이드도 성과 요인으로 꼽힌다.

23일 네이버 따르면 지난 1월 대비 6월 규정을 위반해 삭제되는 댓글 건수는 63.3% 감소했다. 같은 기간 비공감 클릭과 신고도 각각 21.5%, 53.5% 줄어들었다.

네이버는 지난 3월부터 시행한 '댓글 이력 공개' 정책이 악성 댓글 작성 감소에 기여했다고 보고 있다. 기존에는 본인이 쓴 댓글의 공개 여부를 스스로 정할 수 있었지만 이 정책으로 댓글 작성자가 지금까지 작성한 모든 댓글의 목록이 공개로 전환됐다. 포털사이트 내부에서 지속적으로 제기된 문제인 악성 댓글과 어뷰징 시도 등 '역기능'을 줄이기 위한 일환이었다.

이같은 댓글 이력 공개는 "인터넷 실명제와 마찬가지로 표현의 자유를 침해할 것"이란 우려가 있었지만 오히려 더 많은 이용자가 댓글 작성에 참여하는 결과를 낳았다. 연초 대비 6월 댓글 수는 0.7% 소폭 감소했으나 작성자 수는 8% 늘었다낳았다. 작성자가 직접 삭제한 댓글 수는 20.8% 감소하고 인당 댓글 작성 빈도는 8% 줄었다.

네이버 관계자는 "댓글이력 공개와 본인확인제 시행이 댓글 공간 위축을 가져올 것이란 우려가 있었으나 반대로 더 많은 사용자가 참여해 더욱 신중하게 다양한 목소리를 낸 것"이라고 말했다.

네이버는 또 특정 댓글 작성자의 댓글을 원천 차단하고 AI 기술을 통해 '욕설 단어'를 넘어 '문장 맥락'을 탐지하 기술을 도입해 악성 댓글 노출을 줄였다.

예컨대 '쓰레기통에 쓰레기가 꽉 차 있다'는 욕이 아니지만 '쓰레기통에 들어가라'는 악플인데, 업그레이드된 AI 클린봇은 이를 잡아내는 식이다. 아울러 단어가 아닌 이모티콘이나 특수기호를 이용해 시각적으로 만들어내는 욕설까지 탐지, 탐지된 악성 댓글을 블라인드 처리한다. 이용자에게 노출되는 악성 댓글이 줄어들면서 지난달 클린봇 업그레이드 직전 대비 악성 댓글 신고 건수는 19% 감소했다.

 

 

(네이버 제공)© 뉴스1

 

 


네이버가 '댓글 정화' 노력에 나서기 시작한 건 2017년으로 거슬러 올라간다. 당시 매크로 프로그램을 이용해 댓글 '공감' '비공감'을 조작한다는 의혹이 제기되자 '캡챠(CAPTCHA)' 정책을 강화한 것. 캡챠는 사람과 컴퓨터를 구분하기 위해 사람만이 인지할 수 있는 문자가 포함된 변형된 이미지를 보여주고 해당 문자를 입력해야만 원하는 다음 단계가 처리되는 방식이다.

이어 SNS 계정의 댓글 공감 클릭을 제한했고 2018년 4월엔 한 계정으로 할 수 있는 댓글 공감 클릭 수를 하루 50회로 제한했다. 같은해 11월엔 어뷰징 자동감지시스템 'NOW&PAST'를 도입하면서 '댓글 조작'에 더욱 강하게 대비했다.

'댓글 도배'에 대한 대응도 계속됐다. 2018년 2월 동일내용을 반복 등록할 경우 '캡챠'를 노출하게 했고, 같은해 4월엔 1개 기사에 댓글 게시를 최대 3회로 제한했다. 또 SNS 계정으로 댓글 작성을 할 수 없게 됐고, 다수 아이디가 같은 내용을 등록해도 캡챠가 노출됐다.

이같은 정화 노력에도 악성 댓글, 특히 연예인들에 대한 인격모독이나 유언비어가 퍼지는 일이 잦아지면서 지난 3월에는 연예뉴스 댓글 서비스를 종료했다. 댓글 서비스 종료에 따른 트래픽 감소를 감수하면서 내린 결정이었다.

'악플과의 전쟁'은 계속된다. 네이버는 앞으로 상습적으로 악성 댓글을 다는 이용자는 댓글 작성 자체를 제한한다는 방침이다.

AI 클린봇이 인지한 악성 댓글을 반복해 작성하는 이용자는 일정기간 댓글 서비스 이용이 제한되며 그 반복 정도에 따라 작성할 수 있는 댓글과 참여할 수 있는 공감 수를 제한하는 식이다.

네이버 관계자는 "AI 클린봇 정확도를 더 높이고 탐지 범위는 넓히기 위한 개선작업을 개선하겠다"며 "뉴스 댓글 서비스가 해당 뉴스에 대한 개인의 의견을 나누고 토론하는 공론장 역할을 수행할 수 있도록 할 것"이라고 말했다.

 

 


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
이슈포토