AI가 선거를 위협한다?

2024년 전 세계적으로 주요 선거가 치러지는 가운데, 유권자를 속이는 인공지능(AI)과 잘못된 정보 확산을 막기 위해 아마존, 구글, 마이크로소프트 등 거대 기술 기업들이 공동 대응하기로 합의했다. 이들은 지난 16일 독일 뮌헨에서 열린 보안 컨퍼런스에서 자발적 협약을 체결하며 선거 과정의 무결성을 보호하기 위한 노력을 펼칠 것을 약속했다.

최근 딥페이크 기술의 발전으로 오해의 소지가 있는 AI 콘텐츠가 급증하고 있다.

이러한 콘텐츠는 유권자를 속이고 선거 결과에 영향을 미칠 수 있다는 우려가 제기되고 있다. 특히 2024년에는 영국, 미국, 인도 등 40여 개국에서 40억 명이 넘는 사람들이 투표에 참여할 예정이다. 이는 AI 악용 가능성이 더욱 높아진다는 것을 의미한다.

이번 협약에 서명한 기업에는 IBM, 아마존(Amazon), 앤트로픽(Anthropic), 오픈AI, 아도베(Adobe), 메타(Meta), 틱톡(TikTok), X(구 트위터) 등이 포함된다. 이들은 AI 선거 콘텐츠 확산을 방지하고 유해한 콘텐츠를 사이트에서 차단하기 위해 공동 노력할 것이라고 밝혔다.

메타의 글로벌 업무 담당 사장인 닉 클레그(Nick Clegg)는 “이번 협약은 AI 기술의 윤리적 사용을 위한 중요한 발걸음”이라고 말했다. 그는 “AI 기술은 선거 과정의 무결성을 위협할 수 있는 위험성을 가지고 있지만, 동시에 선거 참여를 높이고 투표 과정을 더욱 투명하게 만드는 데 활용될 수 있다”고 설명했다.

또한 그는 “이번 협약을 통해 기술 기업들은 AI 기술의 긍정적인 활용을 위해 협력하고 악용을 방지하기 위한 노력을 기울일 것”이라고 강조했다.

AI 전문매체 AI저널은 악의적인 AI에 맞서기 위해서는 투명성을 높이는 것이 무엇보다 중요하다고 주장했다. 이번 협약에 서명한 기업들은 선거에 미칠 수 있는 위험을 더 잘 이해하기 위해 AI 모델 검토에 동의했다.

매체는 이번 협약으로 인해 AI 안전에 대한 연구를 발전시키고 안전 모범 사례를 식별하는 등 안전한 AI 개발을 위한 노력을 지속할 것 이라고 전했다.

AI 기술은 선거 뿐만 아니라 사회 전반에 걸쳐 다양한 영향을 미치고 있다. 매체는 기술 기업들은 AI 기술의 긍정적인 활용을 위해 노력하는 동시에 악용을 방지하기 위한 책임을 다해야 한다고 강조했다.

AI 기술의 발전은 민주주의 사회에 새로운 도전과제를 제시하고 있다. 이번 협약은 이러한 도전 과제에 맞서기 위한 기술 기업들의 공동 노력을 보여주는 의미 있는 사건이다.

매체는 AI 기술은 인간 사회에 긍정적인 영향을 미칠 수 있는 잠재력을 가지고 있지만, 동시에 악용될 위험도 존재한다고 강조했다. 또한 AI 시대의 책임을 다하기 위해서는 기술 기업, 정부, 시민 사회가 함께 노력해야 한다고 매체는 전했다.

한 인공지능 전문가는 “AI 악용을 방지하기 위해서는 기술 기업들의 노력뿐만 아니라 사회 전체의 참여가 필요하다”며, “시민들은 AI 기술에 대한 이해를 높이고, 악의적인 AI 콘텐츠를 비판적으로 바라보는 시각을 가지는 것이 중요하다”고 말했다. 또한 그는 “정부는 AI 기술의 윤리적 사용을 위한 법적, 제도적 기반을 마련해야 한다”고 덧붙였다.