선거판 왜곡시키는 인공지능(AI) 어떻게 막을 것인가?

올해 선거에서 딥페이크와 같은 기만적 AI 콘텐츠에 대처하기 위해 세계 최고 기술 회사 20개가 협력한다.

세계 최고의 기술 회사들 중 20개가 올해 선거 연도 동안 "딥 페이크" 인공 지능 오보와 싸우기 위한 공동 노력을 발표했다.

올해 선거에서 AI의 기만적인 사용에 대처하기 위한 기술 협정이라고 불리는 이 협정은 16일 뮌헨 안보 회의에서 발표됐으며, 투표자들을 속이기 위해 고안된 AI 생성 콘텐츠에 대응하기 위해 회원 단체들이 일련의 약속을 만들었다.

기술협정은 "인공지능, 즉 인공지능의 급속한 발전은 민주적인 과정을 위한 도전뿐만 아니라 새로운 기회를 창조하고 있다.

이 예외적인 해 동안 사회 모두가 인공지능에 의해 제공되는 기회에 기대고 선거와 선거 과정을 보호하기 위해 함께 새로운 조치를 취해야 할 것"이라고 말했다.

계약에 나열된 회사는 어도비, 아마존, 구글, IBM, 링크드인, McAfee, 메타, 마이크로소프트, 오픈AI, 스냅, 틱톡 및 X다.

상장된 회사 등은 기만적인 AI 콘텐츠 생성과 그로 인해 발생하는 위험을 줄이기 위한 기술 구현을 중심으로 기만적인 AI 선거 콘텐츠와 싸우기 위한 8가지 약속을 하기로 합의했다.

서명자들은 분산된 AI 콘텐츠를 탐지하고 그들의 플랫폼에서 해결하기 위해 노력하기로 합의했다.

이 협정은 또한 서명자들이 기만적인 AI 선거 콘텐츠의 처리에 대해 대중에게 투명하게 공개하고 글로벌 조직 및 학계와 협력하며 선거 결과를 속이고 영향을 미치기 위해 고안된 AI 생성 선거 콘텐츠의 위험성을 대중과 언론에 인식시킬 것을 요구했다.

올해 40여 개국에서 실시되는 선거에서 40억 명 이상의 사람들이 투표할 것이다.

AI 기술은 후보자, 선거 관계자 등을 모방한 변형되거나 가짜 비디오, 이미지 및 오디오를 만들 수 있으며 유권자들에게 투표 방법, 시기 및 장소에 대해 오도할 수 있다.

닉 클레그 메타 글로벌 담당 사장은 성명을 통해 "올해 많은 주요 선거가 실시되고 있는 상황에서 사람들이 AI가 생성한 콘텐츠에 속는 것을 막기 위해 할 수 있는 일을 하는 것이 필수적"이라고 말했다.

CNBC는 기계 학습 기술 회사인 클래리티는 최근 AI가 생성한 '딥페이크' 콘텐츠가 연간 900% 증가했다고 보고했으며, 이는 전 세계적으로 올해 선거에 개입할 가능성이 있다는 우려를 낳고 있다고 보도했다.