영국 국가 사이버 보안센터(NCSC)는 연례 사이버 보안 이슈 검토에서 딥페이크 및 기타 형태의 허위 정보에 대한 위협이 증가하고 있음을 강조했다.

지난 10년 동안 기업들이 운영을 간소화하고 제품 및 서비스 품질을 개선하는 데 있어 이러한 기술의 혁신적 잠재력을 인식하면서 머신러닝(ML)과 인공 지능(AI)의 도입이 눈에 띄게 증가했다.

블레츨리 파크에서 열린 최초의 AI 안전 서밋에서 글로벌 리더, 기술 임원, 학계 및 시민 사회 인사들은 악의적이고 정교한 사이버 공격을 수행하는 사이버 범죄자들을 지원할 수 있는 AI의 잠재력에 대해 심도 있게 논의했다.

그러나 영국의 사이버 보안 기관은 AI와 국가 지원 해킹 그룹이 다가오는 총선을 훼손할 수 있는 잠재적 위협이 커지고 있다는 우려를 다시 한 번 제기했다.

영국의 정보 보안 및 사이버 기관(GCHQ) 산하 국가 사이버 보안 센터(NCSC)는 '연례 검토 2023' 보고서에서 딥페이크와 유권자 여론을 흔들기 위한 다른 형태의 허위 정보가 점점 더 정교해지고 있다고 경고했다.

NCSC 보고서에 따르면 다음에 있을 영국 총선은 AI의 발전을 배경으로 치러지는 첫 번째 선거가 될 것이며, 기존 기술을 가능하게 하는 AI의 능력이 가장 큰 위협이 될 것이다.

보고서는 챗GPT와 같은 애플리케이션의 기반 기술인 대규모 언어 모델(LLM)은 악의적인 목적, 특히 민주적 절차를 훼손하기 위해 가짜 콘텐츠를 만들고 여론을 조작하는 데 악용될 것으로 예상된다고 밝혔다.

"정치적 담론을 훼손하려는 어떠한 간섭이나 시도도 용납할 수 없으며, 영국 정부는 우리의 역량을 강화하고 허위 정보와 같은 온라인 피해의 위협에 대응하기 위해 최선을 다하고 있다"고 NCSC 보고서에서 밝혔다.

NCSC는 영국 정부와 정당에 온라인 광고에 대한 더 엄격한 규제 시행, AI가 생성한 허위 정보에 대한 대중의 인식 제고, 사이버 보안 조치 강화 등 AI로 인한 위험을 완화하기 위한 선제적인 조치를 취할 것을 촉구했다.

이 보고서는 2019년 영국의 마지막 총선 이후, 특히 러시아와 우크라이나의 전쟁 이후 위협 환경이 어떻게 크게 변화했는지 설명했다. 보고서는 이러한 갈등이 "민주주의 국가의 정치 담론에 영향을 미칠 수 있는 가능성을 국가 행위자들에게 더욱 매력적으로 만들었다"고 주장했다. 또한 이 기관은 중국, 이란, 북한을 러시아와 함께 지속적인 사이버 위협으로 지목했다.

또한 러시아와 같은 악의적인 국가와 연계되어 동일한 이념적 목표를 공유하지만 덜 자제력 있게 행동할 수 있는 사이버 행위자들의 출현에 대해 경고하면서 이 범주를 "영국이 대응해야 할 새로운 종류의 적"이라고 불렀다.

이러한 위협에 대응하기 위해 영국은 민주주의 수호 태스크포스와 합동 선거 보안 대비 부서를 설립했다. NCSC 최고 책임자 린디 카메론은 “연례 검토에서 알 수 있듯이 NCSC와 파트너는 사이버 위협에 대한 인식을 높이고 집단적 회복력을 향상시키기 위해 영국 전역의 정부, 공공 및 민간 부문, 시민, 모든 규모의 조직을 지원했다”고 말했다.

또한 그는 “현재 당면한 문제 외에도 기술의 급속한 발전과 사이버 역량 시장의 성장 등 앞으로 다가올 위협에 대해 잘 알고 있다”며, “우리는 이러한 위협에 정면으로 맞서고 영국이 사이버 보안의 최전선에 서도록 최선을 다할 것”이라고 덧붙였다.