인간과 기계를 속이는 딥페이크 공격이 날로 증가하고 있다.

최근 생성형 인공 지능의 발전으로 사실적인 음성 합성 기술 개발에 박차를 가하고 있다. 음성 합성 기술은 개인화된 음성 비서와 접근성을 높여주는 커뮤니케이션 도구를 통해 삶을 개선할 수 있는 잠재력을 가지고 있지만, 합성 음성이 악의적인 목적으로 인간과 기계를 속이는 데 악용될 수 있는 딥페이크의 등장으로 이어지기도 했다.

기술 전문매체 테크 플로어에 따르면 세인트루이스 소재 워싱턴 대학교 맥켈비 공과대학의 컴퓨터 공학 및 공학 조교수인 닝 장은 무단 음성 합성을 사전에 차단할 수 있도록 설계된 새로운 방어 메커니즘인 안티페이크라는 도구를 개발했다.

장은 최근 덴마크 코펜하겐에서 열린 컴퓨터 기계학회 컴퓨터 및 통신 보안 컨퍼런스에서 안티페이크에 대해 발표했다. 기존의 딥페이크 탐지 방법은 공격 후 공격 완화 도구로 합성 오디오를 평가하고 찾아내는 데 사용되는 것인데, 안티페이크는 사전 예방적 입장을 취할 수 있다.

안티페이크는 적대적 기법을 사용해 AI 도구가 음성 녹음에서 필요한 특징을 읽어내는 것을 어렵게 함으로써 사기성 음성의 합성을 방지한다. 이 코드는 사용자가 무료로 사용할 수 있다고 매체는 전했다.

장은 "안티페이크는 범죄자들이 우리의 음성 데이터를 이용해 목소리를 합성하고 우리를 사칭하는 것을 어렵게 만든다"고 말했다. 그는 “이 도구는 원래 사이버 범죄자들의 도구 상자의 일부였던 적대적 AI 기술을 사용하지만, 이제는 우리가 이를 방어하는 데 사용하고 있다”며, “녹음된 오디오 신호를 엉망으로 만들고, 왜곡하거나 교란시켜서 사람이 듣기에는 여전히 정상적으로 들리도록 만들지만, AI에게는 완전히 다르게 들린다”고 설명했다.

안티페이크가 끊임없이 변화하는 잠재적 공격자와 알려지지 않은 합성 모델에 대항할 수 있도록 장과 제1저자인 장의 연구실 대학원생 지위안 유는 이 도구를 일반화할 수 있도록 구축하고 5개의 최첨단 음성 합성기에 대해 테스트했다.

안티페이크는 상용화된 음성 합성기를 상대로도 95% 이상의 보호율을 달성했다. 또한 24명의 사람을 대상으로 안티페이크의 사용성을 테스트해 다양한 사람들이 이 도구를 사용할 수 있음을 확인했다.

현재 안티페이크는 가장 일반적인 유형의 음성 사칭을 겨냥해 짧은 음성 클립을 보호할 수 있다. 장은 “허위 정보와의 싸움이 계속되는 상황에서 이 도구가 더 긴 녹음 파일이나 음악까지 보호할 수 있도록 확장되는 것을 막을 수는 없다”고 말했다.

또한 그는 “새로운 도구와 기능이 계속 개발되고 있는 AI 음성 기술의 다음 단계가 어떻게 될지는 모르겠지만, 공격자의 기술을 역이용하는 우리의 전략은 계속 효과적일 것이라고 생각한다”며, “AI는 여전히 적의 교란에 취약하며, 이를 성공적인 전략으로 유지하기 위해 엔지니어링 세부 사항이 바뀌어야 할 수도 있다”고 덧붙였다.