11월 미국 대통령 선거와 한국 총선 등 주요 선거를 앞두고 인공지능(AI) 기술을 이용한 허위 이미지·영상인 '딥페이크' 악용 가능성이 높아져 글로벌 빅테크 기업들이 대비책을 마련하고 있다.

최근 딥페이크 기술은 급격히 발전하여 일반인도 쉽게 제작할 수 있게 되었고, 이는 선거 과정에서 흑색선전으로 악용될 위험성이 높아 우려를 낳고 있다.

뉴욕타임즈에 따르면 실제로 지난해 아르헨티나 대선에서는 대통령 후보들이 서로를 딥페이크 이미지로 비방하는 사례가 발생했다. BBC에 따르면 미국에서는 트럼프 전 대통령의 딥페이크 이미지가 온라인상에 유포된 적이 있다. 이러한 딥페이크 물들은 유권자에게 상황을 왜곡하고 선거 결과에 영향을 미칠 수 있다는 우려를 낳고 있다.

이에 글로벌 빅테크 기업들은 딥페이크 악용을 막기 위한 다양한 대비책을 마련하고 있다. 미드저니는 정치적 이미지 생성을 차단하고, 메타는 AI 생성 이미지임을 표기하는 워터마크를 도입하는 등의 방안을 추진하고 있다.

글로벌 빅테크 기업들의 딥페이크 대응 노력에 이어 구글도 지난해 AI 이미지임을 보여주는 비가시성 워터마크 '신스ID'의 베타 버전을 공개했다. 신스ID는 딥페이크 이미지에 디지털 서명을 삽입하여 진위 여부를 확인할 수 있도록 돕는 기술이다.

국내에서도 다가오는 4월 총선을 앞두고 딥페이크 악용 가능성에 대한 우려가 커지고 있다. 이에 중앙선거관리위원회(선관위)와 네이버, 카카오 등 포털 사이트들은 적극적인 대응에 나서고 있다.

선관위는 지난달 29일부터 딥페이크물 관련 AI 감별반 및 시·도별 전담인력을 운영하고 있다. 또한 지난해 12월 개정된 공직선거법에 따라 선거운동에 활용될 수 있는 딥페이크물의 제작, 편집, 유포, 상영 등을 일괄 금지하고 위반 시 5년 이하의 징역 또는 5천만원 이하의 벌금을 부과하는 조항을 마련했다.

이에 더해 선관위는 지난해부터 뉴스가 유통되는 주요 포털 및 수사기관과 핫라인을 구축해 총선 관련 가짜뉴스에도 대응하고 있다.

다음 뉴스를 운영하는 카카오는 뉴스 메인 페이지에 선관위 허위정보 신고센터 배너를 마련했다. 인터넷선거보도심의위원회의 불공정 선거보도 경고∙주의를 받은 기사들은 페이지 내 별도로 정리해뒀다. 

네이버도 AI 생성 댓글, 딥페이크 등 신규 어뷰징 패턴을 지속적으로 감시 및 업데이트한다고 했다.

장병탁 서울대 AI연구원장은 "현재 기술 수준으로 딥페이크의 제작 및 유통을 원천 차단하긴 어렵다"며 "메타 등이 도입한 디지털 워터마크가 솔루션이 될 수 있을 것"이라고 말했다.