카카오는 오는 4월 10일 총선을 앞두고 AI 기술을 활용한 이미지 생성물에 워터마크를 삽입하는 등 허위 정보 확산 방지를 위한 적극적인 조치를 취한다고 13일 밝혔다.

카카오는 카카오브레인의 이미지 생성형 모델인 '칼로'(Karlo)에 일반 사용자에게는 보이지 않는 비가시성 워터마크를 도입한다. 이는 사용자가 이미지를 일부 편집하더라도 제거되거나 훼손되지 않도록 설계되었다.

인물 기반 AI 생성물 공유가 활발한 카카오톡 채널 '칼로 AI 프로필' 기능과 이미지 생성 웹 기반 전문가 툴 'Karlo.ai'에 우선 워터마크 기술을 적용한다.

딥페이크(AI로 만든 영상·이미지 합성 조작물) 게시물이 확인될 경우 즉각적인 조치를 취하고, 딥페이크 관련 키워드 검색 시 경고 문구를 안내하여 사용자의 인지도를 높인다.

언론사가 AI로 생성한 기사는 쉽게 인지할 수 있도록 상단에 '자동생성 알고리즘에 의해 작성된 기사'라는 문구도 노출한다.

카카오는 허위 조작 정보 신고 절차도 간소화했다. 이용자가 위반 사항 발견 후 신고 시 중앙선거관리위원회 신고센터로 바로 연결된다. 

특히 공개 영역에 딥페이크 영상이나 영상 캡처 이미지 등이 노출되면 삭제 등 즉각적인 조치에 나선다.

카카오는 "선거 운동 기간 딥페이크를 비롯한 허위 조작 정보를 담은 콘텐츠가 유통되지 않도록 관계 당국과 긴밀하게 협의하겠다"고 했다. 

포털 다음(Daum)에 '허위사실 및 비방 게시물 신고', '오보 및 권리침해 신고' '불공정 기사 모음', '정정∙반론∙추후 보도 기사' 배너를 게시하는 등 허위 정보 확산 및 불공정 선거 보도를 막기 위한 노력도 강화한다.

카카오톡 내에서도 건전한 선거 문화 정착을 위한 캠페인을 진행한다.