안면 인식 기술은 논란의 중심에 서 있다.

미국의 경찰들은 얼굴 인식 회사 ‘클리어뷰’ AI의 기술을 통해 수십억 장의 이미지 데이터베이스에서 용의자의 얼굴과 일치하는 사진을 찾을 수 있다.

클리어뷰 AI의 CEO 호안 톤-댓은 BBC와의 인터뷰에서 “우리 회사는 페이스북과 같은 플랫폼에서 300억 개의 이미지를 스크랩했다”고 말했다. 이 이미지들은 사용자의 허락 없이 촬영된 것이다.

이 회사는 개인정보 침해로 유럽과 호주에서 수백만 달러의 벌금을 반복적으로 부과 받았지만 미국 경찰들은 여전히 이 강력한 소프트웨어를 사용하고 있다.

전자 프론티어 재단의 매튜 과라길리아는 “경찰이 클리어뷰를 사용하면 모든 사람들의 개인 정보들을 경찰들이 쉽게 가질 수 있다”고 말했다.

경찰이 얼굴 인식을 사용하는 것은 심각하거나 폭력적인 범죄에 종종 사용되는 것으로 대중에게 알려져 있지만, 마이애미 경찰은 모든 유형의 범죄에 클리어뷰 AI의 소프트웨어를 사용하는 것으로 BBC를 통해 확인됐다.

마이애미 경찰서장 아르만도 아길라르는 “우리 팀은 클리어뷰 AI의 시스템을 1년에 약 450회 사용했으며, 여러 건의 살인 사건을 해결하는 데 도움이 되었다”고 말했다.

그러나 경찰이 얼굴 인식을 사용해 신원을 오인한 사례는 수없이 많이 기록되어 있다. 예를 들어, 로버트 윌리엄스는 가족이 보는 앞에서 자신의 집 잔디밭에서 부당하게 체포되어 감방에 밤새 구금되었다.

미국시민자유연맹(ACLU)의 수석 입법 고문인 케이트 루안은 "얼굴 인식 기술의 위험성은 가상이 아니라 이미 여러 연구와 실생활에서 그 위험성이 입증되었다"고 주장하며 얼굴 인식 및 생체 인식 기술 법안 재도입에 대해 설명했다. 또한 그는 “경찰의 안면 인식 사용에 대한 투명성이 부족하기 때문에 실제 부당 체포 건수는 훨씬 더 많을 것”이라고 덧붙였다.

인권 운동가들은 클리어뷰 AI를 사용하는 경찰이 언제 사용했는지 공개적으로 밝히고 법정에서 그 정확성을 공개적으로 테스트하기를 원하고 있다.

한 인공지능 전문가는 “경찰의 안면 인식 기술사용은 논쟁의 여지가 있는 문제다. 범죄 해결에 도움이 될 수도 있지만 시민의 자유와 사생활에 위협이 될 수도 있다. 궁극적으로 기술을 사용해 범죄와 싸우는 것과 개인의 권리를 침해하는 것 사이에는 미세한 경계가 존재하며, 그 선을 넘지 않도록 신중하게 접근해야 한다”고 설명했다.