"AI로 매달 1억건 지우고 지워도"…유튜브도 '악플과의 전쟁'
상태바
"AI로 매달 1억건 지우고 지워도"…유튜브도 '악플과의 전쟁'
  • 홍용석
  • 승인 2019.11.14 08:57
  • 댓글 0
이 기사를 공유합니다

유튜브는 13일 서울 서초 반도카메라 강남점에서 국내 크리에이터 성장을 지원하는 콘테스트 기반의 프로그램 '유튜브 넥스트업 2019'를 개최했다. © 뉴스1


(서울=뉴스1) 이수호 기자 = 유튜브가 "혐오표현과 유해콘텐츠를 더욱 엄단하겠다"는 의지를 재차 강조했다. 일각에서는 표현의 자유를 침해하는 것이라는 지적도 있지만 이보다 중요한 것은 '크리에이터 보호'라는 점을 강조했다.

13일 서울 서초 반도카메라 강남점에서 개최된 '유튜브 넥스트업 2019' 행사에 참석한 마크 레프코비츠 유튜브 아태지역 크리에이터·아티스트 총괄은 "유튜브는 수잔 대표(CEO)가 앞장 서서 악성콘텐츠·혐오표현과 관련해 '없애다(Remove)'라는 단어를 적극 사용할 정도로 '일괄 삭제 정책'을 유지하고 있다"며 "이같은 정책은 앞으로도 유지될 것"이라고 밝혔다.

실제 유튜브는 지난해 7월부터 인공지능(AI)이 유튜브 콘텐츠에 달린 악성댓글을 자동 삭제하는 기능을 적용했다. 지난해 7월부터 9월까지 2개월간 AI가 삭제한 악성댓글은 2억건이 넘는다. 올해에도 지난 4월부터 6월까지 두달간 5억건의 악성댓글을 삭제하며 AI를 지속적으로 고도화하고 있다.

아울러 유튜브는 AI가 잡아내지 못하는 악성댓글이나 혐오표현의 경우, 크리에이터가 직접 삭제할 수 있는 권한을 주고 있다. 악성댓글이 계속 달리면 크리에이터가 직접 삭제·차단하는 방식이다.

이밖에도 유튜브는 도박이나 음란물 등 유해콘텐츠나 저작권 침해 등의 유튜브 콘텐츠가 게시되면 인공지능(AI)의 알고리듬에 따라 일명 '노란딱지'라 불리는 징계를 내린다.

AI는 Δ부적절한 언어 Δ폭력 Δ성인용 콘텐츠 Δ논란의 소지가 있는 문제 및 민감한 사건 등 총 11가지 기준을 통해 노란딱지를 부여하며 해당 크리에이터는 광고수익을 얻을 수 없다.

유튜브가 '표현의 자유' 침해라는 일각의 지적에도 불구하고 이처럼 혐오표현 엄단 의지를 천명한 것은 유튜브 내 혐오콘텐츠 유통을 줄이고 유튜브의 핵심 경쟁력인 크리에이터 보호를 위한 조치다.

실제 구독자수 100만명 이상의 인기 크리에이터 중에서도 악성 댓글 또는 악성 영상에 시달려 고통을 겪는 이들이 적지 않은 상황이다.

유튜브 관계자는 "유튜브는 영상 콘텐츠와 마찬가지로 증오심 표현 등 여러 악용 사례가 담긴 악성 댓글을 신고받고 검토하는데 인력배치 및 머신러닝 시스템을 운영 중"이라며 "가이드라인을 위반한 악플을 차단하기 위해 더욱 엄격한 정책을 적용할 계획"이라고 말했다.

국내서도 카카오가 연예 뉴스 댓글을 없앤 데 이어, 네이버까지 AI로 악플을 제거하는 '클린봇'을 내놓으며 이같은 플랫폼 업체들의 혐오표현 엄단 정책은 앞으로도 가속화될 전망이다.

관련업계의 한 관계자는 "연예인들의 경우, 소속사가 적극 나서 혐오표현에 대응하고 있지만 인플루언서, 크리에이터의 경우에는 보호장치가 없어 플랫폼의 역할이 매우 중요하다"면서 "국내외를 막론하고 플랫폼 업계가 나란히 혐오표현 유통차단에 주력하고 있어 올해 말부터 큰 변화가 있지 않을까 기대한다"고 말했다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
이슈포토