미국 상공회의소가 최근 AI의 안전, 신뢰성 및 표준 개발을 목적으로 200개 이상의 조직이 참여하는 컨소시엄을 구성, 향후 활동에 관심이 쏠리고 있다..

10일(현지시간) 노트르담옵저버에 따르면 미 상공회의소가 인공지능 혁신을 위한 새로운 지침과 표준을 연구하기 위한 컨소시엄을 구성키로 했다는 것이다. 

미국 국립표준기술연구소(National Institute of Standards and Technology) 산하에 설립된 이 컨소시엄은 200개 이상의 기업, 대학, 시민단체 및 비영리단체로 구성될 예정이다.

루시 데이터 사회 연구소의 소장이자 컴퓨터 과학 및 공학 교수인 니테시 차울라(Nitesh Chawla)는 "AI 기술의 사회적 영향에 대해 생각할 때, 다양한 관심사를 제시하는 대화를 하는 것이 좋다. 제가 생각하기에 이 컨소시엄이 하려는 것은 그 공간을 만드는 것"이라고 말했다.

그에 따르면 개발자와 사용자가 같은 방에 있지 않은 경우가 많다고 한다.

차울라 교수는 "우리는 무엇이 잘못될 수 있는지 그리고 무엇이 제대로 될 수 있는지에 대해 훌륭하고 완전한 이해를 가지고 있지 않다. 우리는 어떻게 이것들을 측정할까? 우리가 인공지능 도구를 개발하고 그것들이 야생에서 나갈 때 어떻게 모니터링할까?"라고 질문했다.

또한 그는 "노트르담은 대학의 사명 때문에 AI를 둘러싼 대화에서 중요하고 비판적인 목소리를 내는 것이 중요하다"고 덧붙였다.

이 컨소시엄은 10월에 서명한 "인공 지능의 안전하고 안전하며 신뢰할 수 있는 개발 및 사용"이라는 행정 명령에 의해 촉발됐다.

차울라 교수는 "오늘 우리는 이러한 기술들을 구축하고 배치하기 위한 경쟁을 벌이고 있다"라고 말했다.

또한 그는 "하지만 우리는 어떻게 책임감 있는 방식으로 그것을 하는지에 대해 생각해야 한다. 어떻게 안전한 방식으로 그것을 할 수 있을까?"라고 덧붙였다.

그는 인공 지능에서 산업 표준을 수립할 필요성을 강조했다.

그는 "지금은 산업 표준이 없다"며 "비행기를 조종하면서 비행기를 만드는 것처럼 느껴질 때가 많다"고 말했다.

제프리 로드(Jeffrey Rhoads) 연구부총장 겸 항공공학과 교수는 성명을 통해 “대학이 AI 안전 연구소 컨소시엄에 합류하게 되어 기쁘다”고 전했다.

"우리는 인공지능 위험을 관리하기 위해, 우리가 먼저 그것들을 측정하고 이해해야 한다는 것을 알고 있습니다. 그것은 기술자들이나 정부 기관들이 단독으로 다룰 수 없는 거대한 도전입니다. 이 새로운 컨소시엄을 통해, 노트르담 연구원들은 공동의 이익을 산출하는 발견들을 추구하는 노트르담의 임무를 수행할 수 있는 자리를 갖게 될 것입니다." (로드 교수)

인공지능에 대한 태도를 묻는 질문에 차울라 교수는 매우 낙관적이라고 전했다.

차울라 교수는 "지금은 인공지능에서 놀라운 시간이다 … 우리가 할 수 있는 일 – 그것이 미칠 영향은 경이롭다"고 감탄했다.

또한 그는 "하지만 우리는 가드레일에 대해 생각할 필요가 있다는 것을 인식할 필요가 있다. 우리는 측정에 대해 생각할 필요가 있다. 우리는 안전에 대해 생각할 필요가 있다. 우리는 신뢰에 대해 생각할 필요가 있다"고 우려를 표했다.

그 컨소시엄은 이미 회의를 주최하기 시작했다. 차울라 교수의 팀원들은 최근 레드 팀 작업에 대한 회의에 참석했고, 그는 앞으로 몇 달 안에 노트르담에서 행사를 개최할 계획이라고 발표했다.