[투데이e코노믹 = 이지혜 기자] 늘어난 악성댓글과 전쟁을 치르고 있는 인터넷 업계가 인공지능(AI)을 통해 쏟아지는 댓글을 들여다보고 관리한다.

경찰청에 따르면 악플을 신고했을 때 적용되는 사이버 명예훼손죄와 모욕죄 신고건수는 2019년 기준 1만 6633건에 달한다. 2014년 8880건에서 87%나 급증했다. 신고되지 않은 악플을 고려하면 피해규모는 더 클 것으로 예상된다.

이에 업계는 AI가 악성댓글을 걸러낼 수 있는 기술을 내놨다. 하루 수만 건씩 등록되는 댓글을 사람이 일일이 검수할 수 없기 때문이다. AI는 단순 욕설이 포함된 댓글뿐만 아니라 특수기호, 이모티콘을 넣어 교묘하게 쓰인 악플까지 찾아낸다.

네이버, ‘클린봇’으로 문장 맥락 파악...정확도 95%

네이버는 악플을 걸러주는 ‘클린봇’ 기술을 오픈 API로 공개하기로 했다. 클린봇은 악성 댓글을 자동으로 가리는 네이버의 인공지능(AI) 기술이다.

최경호 네이버 미디어인텔리전스 소속 개발자는 지난 25일 개막한 네이버 개발자 콘퍼런스 ‘데뷰 2020’에서 이같은 방침을 밝혔다.

네이버의 클린봇은 지난해 4월부터 웹툰, 스포츠, 연예 뉴스 등의 댓글에 차례로 도입됐다. 지난 6월에는 욕설·비속어가 포함된 댓글 뿐만 아니라 문장 맥락을 파악, 모욕적이거나 무례하다고 판단되면 댓글을 가리는 수준으로 고도화됐다.

네이버에 따르면 올해 상반기 기준 욕설 사이에 일부러 이모티콘이나 오타를 넣은 사례까지 모두 거르는 클린봇 2.0의 정확도는 95%에 달했다. 클린봇 도입 이전 대비 악플 탐지 건수는 2배가량 늘었고, 악성 댓글 신고 건수는 19% 줄었다.

최서희 네이버 홍보 담당자는 26일 본지에 “네이버는 기존의 방대한 악성댓글 데이터를 기반으로 축약어와 오탈자가 많은 구어체 댓글에 대한 더욱 정밀한 분석을 진행했다”면서 “그 결과 ‘CNN'과 'Bi-LSTM' 그리고 'LSTM' 3가지 Layer를 결합하여 모델을 만들었고, 자체적으로 개발한 persona embedding pre-training 방법을 도입하여 악플 탐지 예측 성능을 극대화했다”고 설명했다.

최경호 개발자는 데뷰 발표에서 성희롱·음란성 댓글을 잡아내는 별도의 기술인 '클린봇 레드·오렌지 버전'을 개발하고 있다고도 발표했다. 레드 모델은 텍스트만으로 명백한 성희롱이거나 음란성 의도가 보이는 댓글을 걸러내는 기술, 오렌지 모델은 기사나 게시글 본문과 이어지는 맥락이 있거나 성인지 감수성 관점에서 봤을 때 부적절한 댓글을 걸러내는 기술을 가진다.

네이버가 클린봇 API를 공개하면 다른 사이트나 앱 개발자도 클린봇 기술을 쓸 수 있게 된다. 제휴나 심사를 거치면 무료로 사용가능하다.

카카오, 유튜브, 인스타그램도 ‘AI’ 무기 꺼냈다

다른 기업들도 AI를 통한 악플 필터링에 나서고 있다.

카카오의 경우 지난 2017년 7월 업계 최초로 AI를 통해 댓글의 욕설과 비속어를 필터링하는 기능을 도입했다. 댓글에 방송통신심의위원회가 정한 기준 이상의 비속어나 욕설이 포함되면 이를 자동으로 음표로 바꾸는 시스템이다.

유튜브는 2018년 7월부터 AI가 유튜브 콘텐츠의 악성 댓글을 자동 삭제하는 기능을 적용했다. 구글이 지난 19일 공개한 투명성 보고서에 따르면 지난 7~9월 유튜브가 삭제한 댓글은 전 세계 11억 5027만8887건에 달한다. 이중 괴롭힘 및 사이버폭력이 17.3%, 증오성 또는 악의적인 콘텐츠가 4.1% 비중이다.

포털사이트의 뉴스 댓글 폐지 이후 ‘악플’ 전쟁터가 된 인스타그램도 지난 9월부터 AI를 통해 ‘댓글 경고’를 진행하기로 했다. 사용자가 부정적인 댓글을 작성하면 게시 전 해당 댓글이 상대방에게 공격적으로 받아들여질 수 있음을 미리 경고한다. 이를 통해 작성자가 스스로 댓글을 취소하거나 순화된 표현을 사용하도록 돕겠다는 것이다.

넥슨은 2018년부터 AI 기술 연구조직인 ‘인텔리전스랩스’에서 머신러닝 기술을 활용해 욕설, 혐오표현, 도박광고 등을 차단하는 기술을 개발했다. 이를 통해 신조어와 특수기호 등이 섞인 욕설도 잡아낸다. 넥슨은 이러한 텍스트 탐지 기술을 게임 내 채팅에도 일부 적용 중이다.