다가오는 총선을 앞두고 딥페이크 등 허위정보가 선거에 악영향을 미칠 가능성에 대한 우려가 커지고 있다. 이에 중앙선거관리위원회(중앙선관위)는 선거 주무기관으로서 적극적으로 대응하고 있다.

공직선거법 개정을 통해 선거일 90일 전부터 선거일까지 딥페이크 영상 제작, 편집, 유포, 상영, 게시를 금지하는 조항을 신설했다. 이는 실제와 구분하기 어려운 가상의 음향, 이미지, 영상 등을 선거운동에 악용하는 것을 막기 위한 조치다.

중앙선관위는 AI 모니터링 전담요원과 AI 전문가로 구성된 감별반을 확대 편성하여 딥페이크 영상 등을 실시간으로 감시하고 있다. 또한, AI 기술을 활용하여 허위정보를 자동으로 식별하고 차단하는 시스템을 구축하는 등 선거의 공정성을 확보하기 위한 노력을 지속하고 있다.

한편, 딥페이크 기술의 악용에 대한 우려는 국제적으로도 커지고 있으며, 이에 대한 규범 정립 논의가 활발하게 진행되고 있다. 특히, 워터마크 도입 논의가 주목받고 있다.

워터마크는 디지털 이미지나 문서에 삽입되는 로고나 텍스트로, 해당 자료의 소유자나 원본을 표시하는 역할을 한다. 이를 통해 불법적인 복제나 사용을 방지하고, 소유자의 권리를 강화할 수 있다.

미국은 이미 AI 생성 콘텐츠 표식(워터마크) 개발 규정을 포함하는 자율 서약(Voluntary Commitments)을 채택하고 있으며, 행정명령을 통해 AI 생성 콘텐츠 식별 기술 개발 촉진 및 인증 지침 마련 등을 추진하고 있다.

EU는 인공지능법(AI Act)에 범용 AI 모델 관련 콘텐츠가 AI에 의해 생성되었음을 명시하는 투명성 의무를 규정했고, G7은 ‘23.10. AI 행동강령에서 히로시마 AI 프로세스에 따라 워터마킹 등 AI 생성 콘텐츠 식별을 위한 인증 및 출처 표시 항목을 포함했다.

사업자들의 자율규제 움직임도 나타나고 있다. 구글, 오픈AI, 메타 등 빅테크들은 지난 2월 16일 개막한 독일 뮌헨안보회의(MSC)에서 딥페이크가 세계 각국 선거에 영향을 미쳐 혼란을 야기할 수 있다는 데 의견을 모으고, 딥페이크를 차단하는 방안을 마련하겠다는 내용의 합의문을 발표했다.

여기에서 빅테크들은 딥페이크를 감지해 라벨(꼬리표)을 붙이는 등 조치를 취하기로 했다. 또 효과적으로 딥페이크 등을 막은 모범 사례를 공유해 위법한 콘텐츠에 대해서 신속하게 대응하기로 했다. 

국내 기업은 ’23.9, 초거대 AI 도약 행사에서 자발적 안전조치 이행 선언을 했고 ’23.10, 제4차 AI 최고위 전략대화에서 워터마크의 단계적 도입에 합의하였으나, 아직 대부분의 기업이 워터마크 기술을 도입하고 있지 않는 상황이다. 

다만, 최근 사업자들의 자율규제가 도입되고 있다. 네이버는 딥페이크 관련 키워드 검색 결과에 경고나 주의 문구를 노출하는 방안을 검토하고 있다. 또한 자사 AI 서비스 클로바X에서 음란성 콘텐츠나 얼굴 합성을 요청하는 경우 결과물, 즉 답변을 제공하지 않도록 했다. 카카오의 AI 전문 자회사 카카오브레인은 자체 개발한 이미지 생성 AI 모델 '칼로'에 워터마크 기술 도입을 검토 중이다. 

다만, 워터마킹의 문제점은 그것이 완벽하지 않다는 것이다. 이미지의 워터마크는 설계에 따라 감지될 수 있어 제거될 수 있으며, 비디오 워터마킹의 경우 워터마킹이 비디오 프레임 전체에 걸쳐 있으면 일반적인 비디오 압축 방법에서 손실될 우려가 있다. 텍스트의 경우 간단한 텍스트 편집을 통해 워터마킹이 쉽게 깨질 수 있다. 

한국은 워터마크에 대한 법적 규제도 검토하고 있다. 국회에 계류 중인 기존 인공지능법 제정안에 AI 콘텐츠 워터마크 표시 의무화를 추가한 개정안을 마련하고 국회 통과를 기다리고 있다. 그러나 허위 정보에 대한 법적 규제, 자율규제 외에 제일 중요한 것은 허위 의심 정보에 대한 진위 여부를 판단할 수 있는 이용자의 리터러시 함양이다.

그러나 문제는 심각한 정치적 편향과 확증 현상으로 인해 믿고 싶은 정보만 믿는 현상이 난무하고 있는 것이다. 

결국 플랫폼 기업이 조금 더 허위 정보를 선별하고 신속히 제거할 수 있는 노력을 해야 할 것이며, 그와 함께 정부와 민간 기업이 리터러시 함양을 위한 대대적인 캠페인을 벌이는 방안을 강구해야 할 것이다.