다양한 산업 분야에서 생성형 AI를 사용해 운영을 간소화할 수 있는 방법을 모색하고 있다.

생성형 AI의 다양한 분야에서의 활용 사례 중 하나는 AI 기반 채용이다. 이를 통해 채용팀은 수많은 이력서를 빠르게 선별하고 적합한 인재를 찾아냄으로써 새로운 인재를 더 쉽게 확보할 수 있게 되었다. IT 전문 매체 베르딕은 AI를 활용한 채용과 이러한 과정에 발생할 수 있는 편견에 대해 보도했다.

채용 과정에서 가장 흔하게 발생하는 문제 중 하나는 채용 관리자가 지원자에 비례해 상대적으로 적은 수이기 때문에 지원자들을 충분히 검토하지 못하거나 채용 프로세스가 오래 걸린다는 점이다. AI는 채용 프로세스 전반에 걸쳐 개인화 및 데이터 인사이트를 제공하면서 시간이 많이 걸리는 반복적인 작업을 자동화할 수 있기 때문에 이러한 문제를 모두 해결할 수 있다.

오늘날 AI를 활용한 채용 기법은 이미 전 세계 유수의 기업에서 사용하고 있다. 자동화된 지원자 평가 시스템을 개발한 아마존(Amazon), 기술 및 영업 인재를 최고의 기업과 매칭하는 AI 플랫폼을 제공하는 하이어(Hired), 수십억 개의 관련 데이터 포인트를 집계하여 조직에서 성공할 가능성이 높은 잠재적 후보자를 빠르게 식별하고 우선순위를 정하는 AI 기반 인재 관리 플랫폼인 비머리(Beamery) 등이 대표적인 예이다.

한편, 유니레버는 인력 채용 담당자를 AI 시스템으로 대체함으로써 수십만 파운드의 비용을 절감할 수 있다고 밝혔으며, 인력 채용 시간을 10만 시간 절약한 것으로 알려졌다.

AI 지원 시스템에는 편견이 있을까?

많은 고용주는 지원자를 유치하기 위해 알고리즘 광고 플랫폼과 구인 게시판을 사용한다. 이 알고리즘은 가장 '관련성 높은' 구직자에게 도달한다. 이러한 시스템은 해당 직무에 적합한 지원자가 아니라 해당 구인 광고를 클릭할 가능성이 가장 높은 지원자를 예측하는 등 매우 피상적인 예측을 하는 경우가 많다. 이러한 예측은 고용주가 의도하지 않았더라도 성별 및 인종적 고정관념을 강화하는 방식으로 구인 광고가 전달될 수 있다.

베르딕에 따르면 슈퍼마켓 계산원 구인 광고는 85%의 여성에게 노출되는 반면, 택시 운전사 구인 광고는 75%의 흑인 지원자에게만 노출되는 경우가 있다. 후보자를 간소화하는 행위에도 편견이 숨어 있을 수 있다.

특정 문화 집단에 대한 편견을 증폭시키는 화상 면접 프로세스도 편견의 예로 들 수 있다. 원어민이 아닌 지원자는 이 단계에서 종종 AI가 지원자를 의사소통 능력이 부족한 것으로 분류해 면접에 어려움을 겪는다. 다른 예로는 특정 성별과 인종이 더 자주 하는 스포츠나 부유층이 더 자주 하는 과외 활동을 언급하는 지원자에 대한 편견이 있다.

AI의 편견을 방지하기 위해 무엇을 할 수 있나?

보도에 따르면 미국에는 기업의 선발 절차에 대한 규정이 있다. 고용주는 평가 도구가 인구통계학적 하위 그룹에 불리한 영향을 미치는지 검사할 의무가 있으며, 특정 지원자 그룹에 지나치게 유리한 절차를 사용하는 경우 책임을 질 수 있다.

그러나 편견을 제거할 책임은 인간 채용 담당자에게 있다. AI 채용 모델을 설정할 때는 모델에 내재된 편견을 유발하는 모든 데이터를 제거하는 것이 필수적이다. 채용 담당자는 예측 도구를 배포하기 전에 주관적인 성공 척도가 시간이 지남에 따라 도구의 예측에 부정적인 영향을 미칠 수 있는지 평가해야 한다.

그 다음에는 자동화된 AI 엔진에만 의존하지 말고 사람이 지속적으로 참여해야 프로세스의 균형을 유지할 수 있다. 채용 담당자는 단순히 선별 단계에서 부정적인 영향을 확인하는 것을 넘어 채용 파이프라인을 처음부터 끝까지 모니터링해 잠재된 편견이 숨어 있는 곳을 찾아내야 한다.