과학기술정보통신부(과기정통부)는 16일 서울 스페이스에이드 CBD에서 인공지능(AI) 글로벌 규범 자문단의 첫 회의를 개최했다고 밝혔다. 

이번 회의는 올해 5월 한국에서 개최될 'AI 안전성 정상회의'를 국내 AI 전문가들과 함께 체계적으로 준비하고, 정상회의의 주요 논의와 합의점을 모색하는 과정에서 우리나라 산업계·학계의 목소리를 적극 반영하기 위해 마련됐다.

박윤규 과기정통부 차관을 비롯하여 산·학·연 전문가 20여 명이 참석한 이날 회의에서는 제1차 AI 안전성 정상회의 결과를 공유하고, 제2차 정상회의의 주요 목표와 세부 내용에 대해 심도 있게 논의했다. 

특히, AI 안전성 평가, 기업이 취해야 할 조치, 고성능 AI의 사회적 위험성, 에너지 안전성 확보, AI 안전 연구소 설립 등에 대한 논의가 활발하게 이루어졌다.

AI 안전성 평가에서는 국제적으로 통일된 평가 기준 및 방법 마련의 필요성이 강조되었으며, 특히 한국의 AI 기술 수준을 반영한 평가 시스템 구축 방안에 대한 논의가 집중됐다. 

또한, 기업의 AI 윤리 및 책임 강화 방안으로는 AI 윤리 가이드라인 개발, 기업 내 AI 안전성 관리 시스템 구축 등이 제시됐다.

고성능 AI의 사회적 위험성에 대한 논의에서는 악용 방지 및 인간 통제 방안 마련의 중요성이 강조되었으며, 특히 딥페이크 기술의 악용 가능성에 대한 우려가 제기됐다. 이에 대해 정부 차원의 규제 및 관리 방안 마련과 더불어 AI 기술 개발자들의 윤리적 책임 의식 강화가 필요하다는 의견이 제시됐다.

에너지 안전성 확보라는 새로운 논제에서는 AI 기술 발전에 따른 막대한 전력 소요와 탄소 배출 문제에 대한 우려가 제기됐다. 이에 대해 AI 기술 개발 과정에서 에너지 효율성을 고려해야 한다는 의견이 제시되었으며, AI 기술을 활용한 에너지 절약 및 친환경 기술 개발에 대한 투자 확대가 필요하다는 지적도 나왔다.

AI 안전 연구소 설립과 관련해서는 영국·미국·일본 등 주요국과 마찬가지로 AI의 안전성 연구와 평가를 담당하는 연구소 설립의 필요성이 논의됐다. 이 연구소는 AI 기술의 안전성을 평가하고, AI 기술 개발 과정에서 발생할 수 있는 위험을 사전에 예측 및 방지하기 위한 연구를 수행할 예정이다.

과기정통부는 자문단과 대면·영상회의를 수시로 개최하여 정상회의의 목표, 의제 등을 설정·구체화하고, 한국의 AI 산업 육성을 뒷받침할 수 있는 방향으로 공동 개최국인 영국 및 정상회의 참석 국가들과 협의해 나갈 계획이다.

박윤규 차관은 "이번 AI 안전성 정상회의 개최는 우리나라가 글로벌 AI 규범 및 거버넌스 정립에 기여하고 전 세계와 함께 AI 혜택을 안전하게 누릴 수 있는 계기가 될 것"이라며 "기존 방향성 중심의 AI 이니셔티브에서 나아가 구체적인 AI 안전성 확보를 위한 글로벌 논의를 주도하고 이 과정에서 우리나라 산업계와 학계의 의견을 적극 반영해 국내 AI 산업 발전을 도모하겠다"고 말했다.