경찰청 국가수사본부(국수본)는 5일, 선거 범죄 단속 등에 활용할 '딥페이크 탐지 소프트웨어'를 개발해 본격 활용한다고 밝혔다.

딥페이크는 컴퓨터가 스스로 학습하는 딥러닝(Deep learning)과 가짜(Fake)를 합친 용어로, 기존 영상을 다른 영상에 겹쳐 만든 인공지능(AI) 기반 이미지 합성 기술을 의미한다. 

국내에서는 22대 총선을 앞두고 딥페이크 영상을 이용한 허위 정보 유포 및 여론 조작에 대한 우려가 커지고 있다. 이에 개정 공직선거법은 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 이용한 선거 운동을 금지하고 있다.

국가수사본부가 개발한 딥페이크 탐지 소프트웨어는 의심되는 영상을 시스템에 올리면 5~10분 내에 분석 작업을 완료해 진위를 판별한다. 분석 결과는 보고서 형태로 출력되어 수사에 활용될 수 있다. 

기존 딥페이크 탐지 모델은 대부분 해외에서 제작되어 서양인 얼굴 데이터로 구성되어 한국인 얼굴로 합성된 영상은 탐지율이 떨어지는 문제점이 있었다. 국수본은 이러한 문제점을 보완하기 위해 국내 데이터를 기반으로 딥페이크 탐지 모델을 구축하고 학습시켰다.

이번에 개발한 탐지 소프트웨어는 한국인 데이터 100만 점과 아시아 계열 인종 데이터 13만 점을 포함해 5400명의 데이터 520만 점 등 다양한 데이터 학습을 마쳤다. 기존 학습 데이터가 아닌 새로운 형태의 합성 영상이 발견되더라도 대응할 수 있도록 최신 AI 모델도 적용했다.

해당 소프트웨어의 진위 탐지율은 80%에 달한다. 경찰은 탐지율이 100%가 아닌 점을 고려해 증거자료보다는 수사 방향을 설정하는 자료로 활용할 계획이다. 아울러 학계, 기업 등 AI 전문가로 구성된 민간 자문위원의 교차 검증을 거치도록 해 오탐지 가능성도 최소화할 예정이다.

경찰청 관계자는 "딥페이크 이용이 의심되면 탐지 소프트웨어로 분석해 결과를 확인한 후 적극 수사할 것"이라고 말했다.