네이버가 인공지능(AI) 기술을 통해 악성댓글 차단 강화에 나섰다. 기존 AI가 '욕설 단어'로 악성댓글을 차단하던 것에서 '문장 맥락'을 탐지하는 것으로 기능이 강화됐다.

네이버는 뉴스 댓글 본래의 순기능을 강화하는 일환으로 자사 'AI클린봇'을 업그레이드했다고 19일 밝혔다.

클린봇 2.0으로 지칭되는 이번 업데이트는 문장 맥락을 탐지해 악성댓글을 차단하고 악성댓글자를 판단한다.

네이버는 AI 기술을 이용해 불쾌한 욕설이 포함된 댓글을 체크하고 자동으로 숨겨주는 기능인 클린봇을 지난해 4월 선보였다.

이 AI는 뉴스, 스포츠, 쥬니버 등에 적용돼 욕설과 비속어가 들어간 댓글을 탐지해 자동으로 블라인드(가림) 처리를 하고 있다.

네이버는 이번 업데이트를 통해 비속어를 포함하지 않았더라도 모욕적인 표현이나 무례한 댓글을 탐지할 수 있게 했다.

이를 위해 네이버는 기존의 방대한 악성댓글 데이터를 기반으로 축약어와 오탈자가 많은 구어체 댓글에 대한 더욱 정밀한 분석을 진행했다.

그 결과 클린봇 2.0에는 'CNN'과 'Bi-LSTM', 'LSTM' 3가지 레이어를 결합한 모델을 만들었다.

이 레이어들은 기계학습, 자연어처리 등과 관계됐다. 네이버는 여기에 이용자들이 주로 쓰는 어휘와 표현을 벡터로 표현하는 자체 연구·접근법(persona embedding pre-training)을 도입해 악플 탐지 예측 성능을 극대화했다.

네이버 측은 "하나의 비속어에 대해 많게는 10만개 이상의 변칙어가 존재한다. 이같은 상황에서 클린봇 만으로 100%의 악성댓글 감지 효과를 기대하기엔 버거운 것이 사실"이라며 "네이버는 클린봇이 최대한 많은 악성댓글을 탐지할 수 있도록 다양한 AI 모델을 결합하고 빅데이터 학습을 계속해 보다 정밀하고 고도화된 클린봇 모델 구축을 구축하겠다"고 말했다.

업데이트된 클린봇은 상습적인 악성 댓글 작성자를 판단에도 활용된다.

네이버는 클린봇이 인지한 악성 댓글을 반복 작성하는 이용자에게 일정기간 동안 댓글 서비스 이용을 제한할 예정이다.

나아가 반복 정도에 따라 작성할 수 있는 댓글과 참여할 수 있는 공감 수를 제한하는 정책도 준비하고 있다.

한편 네이버는 지난 3월19일부터 뉴스 댓글 작성자의 닉네임과 작성글, 삭제 등 활동 이력 전반을 공개해 더욱 책임감 있는 댓글 활동을 독려하고 있다.

지난 4월9일에는 이용자가 직접 특정 댓글 작성자의 글을 원천 차단하는 기능을 추가했고 4월15일부터는 댓글 본인확인제를 상시 정책화해 유지하고 있다.