디지털 시장을 뜨겁게 달구고 있는 '챗GPT'의 윤리 심판 논란은 어떤 결과로 이어질 것인가.

미국의 비영리단체인 인공 및 디지털 정책센터CAIDP는 지난달 알고리즘 편향, 개인 정보 보호 문제 및 때때로 부정확한 결과를 생성하는 기술의 경향이 연방 소비자 보호법을 위반할 수 있다고 주장하며 미국 정부가 오픈AI와 널리 인기 있는 GPT 인공지능 제품을 조사하기를 요청했다.

CAIDP는 연방거래위원회(FTC)에 낸 고소장을 통해 오픈AI가 GPT의 미래 버전을 출시하는 것을 금지하고 급성장하는 AI 분야에 대한 새로운 규제를 마련해야 한다고 밝혔다.

이 민원은 정책센터가 AI 개발의 의도하지 않은 결과에 대해 소비자가 비용을 지불하는 폭주 실험의 와일드 웨스트로 묘사한 것에 대해 공정위의 광범위한 소비자 보호 권한의 모든 힘을 동원하려고 하는 것이다. 

그리고 FTC 리나 칸 의장과 같은 기술 회의론자들이 상업적 목적을 위한 견제되지 않은 데이터 사용의 위험성과 기술 회사가 독점을 고착화하려는 새로운 방법에 대해 경고했기 때문에 AI를 직접 규제하려는 미국 정부의 욕구에 대한 초기 테스트가 될 수 있다.

FTC는 언급을 거부했고 오픈AI는 코멘트 요청에 즉시 응답하지 않았다.

오랫동안 소비자 보호에 옹호자 였던 CAIDP의 마크 로텐버그 사장은 "우리는 FTC가 오픈AI와 GPT-4를 면밀히 살펴봐야 한다고 믿는다"고 말했다.

이 고발은 생성 인공지능과 관련된 다양한 위험을 공격하고 있으며, 이는 작년 말 이전 버전의 GPT 제품으로 구동되는 챗GPT의 오픈AI가 처음 대중에게 공개된 이후 전 세계의 관심을 사로잡았다. 

매일 인터넷 사용자들은 챗GPT를 사용하여 시를 쓰고, 소프트웨어를 만들고, 질문에 대한 대답을 몇 초 안에 놀라운 정교함으로 얻어 왔다. 마이크로소프트와 구글은 모두 동일한 유형의 AI를 검색 제품에 통합하기 시작했으며 마이크로소프트의 빙은 심지어 GPT 기술 자체에서 실행된다.

그러나 겉보기에 새로운 분야에서의 지배력을 위한 경쟁은 또한 2023년 2월 12일이 2022년 12월 16일 이전이라는 확신에 찬 주장과 같이 불안하거나 단순히 완전히 평평한 잘못된 결과를 낳았다. CAIDP는 불만 사항에서 이러한 유형의 실수를 ‘AI 환각’이라고 하며, 법적으로 집행 가능한 위반으로 간주해야 한다고 주장했다. 

GPT-4와 관련된 많은 문제들은 종종 '오보', '환각' 또는 '조작'으로 묘사된다. 그러나 공정위의 목적을 위해서는 이러한 산출물이 '기만'으로 가장 잘 이해되어야 한다며 불공정하거나 기만적인 사업 행위나 관행을 기소할 수 있는 공정위의 광범위한 권한을 언급했다.

오픈AI는 알고리즘에 많은 한계가 있는 것으로 알려져 있다. 예를 들어, GPT의 최신 릴리스인 GPT-4에 연결된 백서는 모델이 "특정 소스와 관련하여 비논리적이거나 거짓인 콘텐츠를 생성할 수 있다"고 설명했다.

오픈AI는 또한 GPT와 같은 도구가 소수자 또는 기타 취약한 그룹에 대한 광범위한 차별을 초래할 수 있는 가능성에 대해 유사한 내용을 담고 있다.

그러나 CAIDP는 이러한 결과 자체가 불공정하거나 기만적일 수 있다고 주장하는 것 외에도 오픈AI가 이러한 위험에 대한 책임을 기술을 사용하는 고객에게 떠넘기려 함으로써 FTC의 AI 지침을 위반했다고 주장했다.

고소장은 오픈AI의 조항이 GPT를 배포하는 뉴스 출판사, 은행, 병원 및 기타 기관에 인공지능의 한계에 대한 고지 사항을 포함하도록 요구하고 있다고 주장한다. 고소장에 따르면, 그것은 오픈AI을 책임이라고 주장하고 있다.

CAIDP는 챗봇에 대한 FTC의 3월 자문을 인용하며, 최근 FTC는 '오용에 대해 고객에게 경고하거나 공개하라고 말하는 것만으로는 나쁜 행위자를 막기에 충분하지 않다'고 밝혔다. 

CAIDP는 FTC의 관할권 내에 있지만 기관이 GPT의 내부 작업과 관련하여 연구하지 않은 문제로 인공지능은 소비자 개인 정보 보호와 사이버 보안에도 광범위한 영향을 미칠 것이라고 말했다.

본격 심의에 들어간 미국의 연방거래위원회가 어떤 결론을 내릴 지 전세계의 기업과 정부, 소비자들이 주시하고 있다.