딥페이크 시대, 우리는 어떻게 살아야 할까?

2024년 1월, 미국 뉴햄프셔주의 유권자들은 충격적인 경험을 했다. 그들은 조 바이든 대통령으로부터 예비선거 투표를 자제해 달라는 전화를 받았다. 하지만 문제는 바이든 대통령이 실제로 전화를 걸지 않았다는 점이다. 딥페이크 기술을 사용하여 대통령의 목소리를 사칭한 로보콜이었던 것이다.

이 사건은 딥페이크가 단순한 기술적 호기심 이상의 위험성을 지닌다는 것을 여실히 보여준다. 딥페이크는 인공지능 기술을 사용하여 얼굴, 목소리, 행동 등을 조작하여 진짜처럼 보이도록 만든 가짜 영상이다. 딥페이크 기술은 점점 더 정교해지고 있으며, 일반인이 진짜 영상과 구별하기 어려워지고 있다.

IT 전문매체 베르딕은 딥페이크가 사회에 심각한 문제를 야기할 수 있다고 주장했다. 가짜 뉴스, 사기, 명예 훼손, 선거 조작 등에 사용될 수 있으며, 사회의 불신과 혼란을 야기할 수 있다. 딥페이크는 진실과 가짜의 경계를 허물고, 우리가 세상을 인식하는 방식을 바꿀 위험성을 가지고 있다.

딥페이크를 식별하는 것은 어렵지만 불가능하지는 않다. 매체는 딥페이크를 식별하는 몇 가지 방법에 대해 설명했다.

얼굴- 딥페이크 영상의 얼굴은 피부 질감, 눈, 코, 입 주변의 근육 움직임 등이 불분명하거나 부자연스러울 수 있다.

손- 딥페이크 영상의 손은 손가락이 없거나 너무 많거나, 관절이 있는 경우도 있고 없는 경우도 있다. 또한 손 모양이 비현실적이고 부자연스러운 포즈를 취할 수 있다.

립싱크- 딥페이크 영상의 경우 오디오와 입술의 움직임이 일치하지 않을 수 있다.

AI 감지 도구- 에브리픽셀 에스테틱스, 일루미나티 등 다양한 무료 AI 이미지 감지 도구가 있다. 이러한 도구는 AI가 생성한 이미지의 일관성을 확인하여 딥페이크를 식별하는 데 도움을 줄 수 있다.

소스 확인- 동영상의 출처를 확인하고, 동일한 인물의 다른 영상이나 이미지 등과 비교해 불일치하는 부분이 있는지 살펴보는 것이 중요하다.

각국 정부와 여러 기관들은 딥페이크 탐지 및 예방을 위해 노력하고 있다. 연구자들은 딥페이크를 식별하는 소프트웨어를 개발하고 있으며, 선거 캠페인 사기 규칙을 업데이트하여 딥페이크 사용을 금지하려는 노력도 이루어지고 있다. 그러나 AI 기술의 지속적인 발전으로 인해 딥페이크의 존재와 이를 식별하는 방법에 대해 대중을 교육하는 것이 중요한 과제가 되고 있다.

매체는 2024년의 중요한 선거가 인공지능이 생성한 콘텐츠가 제기하는 문제를 해결할 수 있는 사회의 능력을 시험하는 중요한 시험대가 될 것이라고 전망했다. 딥페이크에 대한 대응을 위해 기술 발전, 규제 조치, 대중 인식 제고 활동 등 다각적인 접근이 필요하다고 매체는 주장했다.

한 인공지능 전문가는 “딥페이크는 우리 사회에 새로운 도전과제를 제시한다”며, “딥페이크의 위험성을 인지하고, 이에 대응하기 위한 노력에 동참해야 한다”고 말했다. 또한 “딥페이크 시대에 진실과 가짜를 구별하기 위해 우리는 더욱 비판적 사고를 키워야 하며, 딥페이크 기술이 악용되지 않도록 사회적 합의와 제도적 장치를 마련해야 한다”고 주장했다.