인공지능 딥페이크로 인한 금융사기가 나날이 급증하면서 전 세계가 긴장하고 있다.

한 다국적 기업의 재무 담당자가 화상전화 회의에서 딥 페이크 기술을 사용, 회사의 CFO(최고 재무 책임자)로 행세하는 사기꾼들에게 속아 2,500만 달러를 송금한 사건이 발생했다. 

홍콩 경찰은 정교한 사기로 직원들이 다른 직원 몇 명이라고 생각하는 사람들과 영상 통화에 참여하도록 속는 것을 봤지만, 그들 모두는 사실 깊은 가짜 레크리에이션이었다고 말했다.

찬 순칭 총경은 시 공영방송 RTHK에 "다인 화상회의에서 그가 본 모든 사람들이 가짜였다는 것이 밝혀졌다"라고 전했다.

찬 총경은 회사의 영국에 기반을 둔 최고 재무 책임자로부터 알려진 메시지를 받은 후 그 직원이 의심하게 됐다고 전했다.

처음에 그 직원은 비밀 거래가 실행되어야 할 필요성을 이야기했기 때문에 그것이 피싱 이메일이라고 의심했다고 한다.

그러나, 그는 화상 통화 후 초기 의심을 접었다고 한다. 왜냐하면 다른 참석자들이 그가 알아본 동료들과 똑같이 생겼고 말소리가 들렸기 때문이다.

찬 총경은 “통화 중인 다른 모든 사람들이 진짜라고 믿으며, 이 직원은 총 2억 홍콩 달러 – 약 2,560만 달러를 송금하기로 동의했다”고 덧붙였다.

이 사건은 사기꾼들이 돈을 사기 위해 공개적으로 이용 가능한 비디오와 다른 영상을 수정하기 위해 딥페이크 기술을 사용한 것으로 추정되는 최근 여러 에피소드 중 하나다.

언론 브리핑에서 홍콩 경찰은 이 같은 사기 행각과 관련해 6명을 체포했다고 밝혔다.

찬 총경은 “작년 7월과 9월 사이에 주인에 의해 분실된 것으로 신고된 8개의 도난당한 홍콩 신분증이 90개의 대출 신청과 54개의 은행 계좌 등록에 사용됐다”고 말했다.

경찰에 따르면, AI 딥페이크는 신분증에 찍힌 사람들을 모방하여 안면 인식 프로그램을 속이는 데 적어도 20번 사용됐다.

가짜 CFO가 연루된 사기 행각은 나중에 직원이 회사 본사에 확인했을 때에야 드러났다.

전 세계 당국은 딥페이크 기술의 정교함과 이 기술이 불법적으로 사용될 수 있다는 점에 대해 점점 더 우려하고 있다.

지난 1월 말, 미국 팝스타 테일러 스위프트의 포르노적이고 인공지능이 제작한 이미지가 소셜미디어를 통해 퍼지면서 인공지능 기술이 야기할 수 있는 피해 가능성을 강조했다.

그 가수가 성적으로 암시적이고 노골적인 자세를 취하고 있는 것을 보여주는 그 사진들은 소셜 플랫폼에서 삭제되기 전에 수천만 번 시청됐다.