AI 허위 정보, 2024년 선거 최대 위협될까?

구글은 올해 진행되는 여러 국가의 선거와 관련된 질문에 대한 자사 AI 챗봇 제미니의 답변을 제한할 것이라고 최근 밝혔다. 이는 세계경제포럼(WEF)이 2024년 AI 선거 허위 정보가 전 세계에 가장 큰 위협이 될 것이라고 보고한 이후 나온 조치다.

최근 구글의 제미니와 오픈AI의 챗GPT와 같은 생성형 AI(GenAI) 애플리케이션의 급격한 발전은 AI 기술을 이용한 허위 정보 확산에 대한 우려를 증폭시키고 있다. WEF는 올해 기후 변화, 분쟁, 경제적 취약성보다 AI 허위 정보가 더 큰 위협이 될 것으로 전망했다.

AI 기술의 발전은 사회 전반에 걸쳐 큰 영향을 미치고 있으며, 선거도 예외는 아니다. AI 챗봇은 유권자들에게 정보를 제공하고, 정치적 캠페인을 수행하며, 여론 조사를 분석하는 데 활용될 수 있다. 그러나 AI 기술은 악의적으로 사용될 경우 선거 결과를 왜곡하고 민주주의를 위협할 수 있다.

구글은 "2024년 전 세계적으로 치러질 많은 선거에 대비하고 신중을 기하기 위해 제미니가 답변을 제공하는 선거 관련 질문 유형을 제한하고 있다"고 설명했다. 2024년에는 인도, 멕시코, 영국, 미국, 유럽 등 주요 국가에서 선거가 예정되어 있다.

구글의 AI 제품은 과거에도 허위 정보와 관련된 논란에 휩싸였다. 2023년 출시된 제미니는 출시 데모에서 부정확한 답변을 제공한 것으로 악명이 높았으며, 지난달에는 사용자가 명백한 역사적 부정확성이 있는 이미지를 생성하는 것을 발견한 후 이미지 생성 기능을 일시 중단해야 했다.

구글은 선거 관련 질문 답변 제한 외에도 AI 허위 정보 확산 문제를 해결하기 위해 다각적인 노력을 기울이고 있다. 구글은 AI 기술의 윤리적 사용을 위한 가이드라인을 개발하고 이를 제품 개발 과정에 반영하고 있다. 또한 사실 확인 기관들과 협력해 AI 챗봇이 제공하는 정보의 정확성을 검증하고 있다.

글로벌 데이터는 전체 AI 시장이 2030년까지 9,090억 달러 규모로 성장할 것으로 전망하며, 생성형 AI 분야는 2022년 18억 달러에서 2027년 330억 달러로 급격한 성장을 예상했다. 이러한 시장 성장 속에서 AI 기술을 통한 허위 정보 확산 문제 해결은 더욱 중요해지고 있다.

한 인공지능 전문가는 “AI 허위 정보 문제는 구글 혼자 해결하기에는 어려운 문제”라며, “정부, 기업, 시민 사회가 협력하여 AI 기술의 윤리적 사용을 위한 방안을 모색하고, AI 허위 정보 확산을 방지하기 위한 노력을 기울여야 한다”고 주장했다.