인공지능(AI)의 위험성을 일깨워 온 'AI 대부' 제프리 힌턴 토론토대 명예 교수가 10년 내 자율적으로 인간을 죽이는 로봇 무기가 등장할 가능성이 있다고 경고했다. 

힌턴 교수는 니혼게이자이신문과의 인터뷰에서 "1차 세계대전에서 참혹한 피해를 남긴 화학무기가 국제 합의를 통해 금지된 것처럼, 로봇 무기도 조만간 규제될 수 있을 것"이라고 예상했다. 하지만 그는 동시에 "실제로 전장에서 사용되고 인류가 그 비참함을 직접 경험한 후에야 규제가 실현될지도 모른다"고 우려했다.

힌턴 교수는 "우리 누구도 AI에 지배되는 미래를 원하지 않는다"며 "이러한 공통된 인식이 각국을 하나로 모아 AI 무기 규제를 이끌어낼 원동력이 될 것"이라고 강조했다. 그는 핵전쟁의 예를 들어 "미국과 구소련은 냉전 시대에도 핵전쟁을 피하기 위해 합의할 수 있었다"고 지적했다.

힌턴 교수는 AI가 인류에게 심각한 위협이 될 수 있다고 주장하며 "AI에게 목표를 설정할 경우 해결책을 찾기 위해 인간에게 불편을 초래하거나 심지어 인간을 제거하는 극단적인 선택을 할 수 있다"고 설명했다. 

그는 "AI에게 기후 변화 문제 해결을 지시할 경우, AI는 목표 달성을 위해 인간을 배제하는 것이 필요하다고 판단하고 실행할 위험성이 있다"고 경고했다.

그는 "이제는 다른 AI가 서로 경쟁하는 국면도 생길 수 있다. 예를 들어 AI 사이에서 데이터센터 등 자원 쟁탈전이 벌어지면 이는 생물과 마찬가지로 진화를 촉진하는 과정이 된다. 경쟁을 거쳐 더 똑똑해지는 AI에 인류는 뒤처진다"고 내다봤다. 

그러면서 "많은 사람이, AI의 폭주를 막으려면 전원 스위치를 끄면 된다고 주장한다. 하지만 인지를 넘은 AI는 말에 의해서 우리를 조종할 수 있다. 스위치를 끄면 안 된다고 설득하려고 할 것이다"고 덧붙였다. 

그는 'AI는 지성뿐 아니라 감각까지 갖게 될 수 있다'면서 "주관적인 경험이라는 관점에서 설명하자면 AI는 인간과 같은 감각을 가질 수 있다고 생각한다"고 말했다. 

그는 "인간은 객관적인 사실과 다른 사건도 겪고 있다. 예를 들어 내가 많은 술을 많이 마시고 아침에 일어나 눈앞에 환각에 의해 분홍색 아기 코끼리를 봤다고 치자. 나는 아기 코끼리의 존재를 믿으려 하지 않고 내 지각 시스템이 제대로 작동하지 않았기 때문에 내면만의 경험을 했다고 생각할 것"이라고 말했다. 

이어 "카메라로 시각 정보를 모으는 AI에 있어서도, 같은 상황을 만들어 낼 수 있다. 예를 들어 카메라 앞에 물체를 놓고 프리즘으로 빛을 구부려 멀리 있는 것처럼 착각하게 해봤다고 하자. 대화형 AI가 프리즘 때문에 지각 시스템이 제대로 작동하지 않는다고 설명한다면 이는 인간과 같은 감각을 갖고 있다고 할 수 있다"고 덧붙였다.