머신러닝 전문가들은 인간의 감정을 감지하고 상호작용할 수 있는 감정 AI 기술이 머신러닝의 주요 응용 분야 중 하나가 될 것이라고 예측하고 있다.

오늘날 감정 AI는 디지털 업계에서 핫한 분야 중 하나다. 예를 들어, 구글 연구원 출신인 앨런 코웬이 설립한 흄 AI는 언어, 표정, 음성에서 감정을 측정하는 도구를 개발하고 있다.

스웨덴의 스마트 아이즈(Smart Eyes)는 최근 오디오 샘플에서 분노와 같은 감정을 1.2초 이내에 분류하는 알고리즘인 사운드넷(SoundNet) 신경망을 개발한 MIT 스핀오프 회사인 어펙티바(Affectiva)를 인수했다. 코로나 팬데믹으로 많은 수혜를 입은 비디오 플랫폼인 줌(Zoom)도 곧 사용자에게 가상 미팅 중 감정과 참여도를 실시간으로 분석할 수 있는 기능인 Zoom IQ를 도입할 예정이다.

전문가들은 2023년, 기술 기업들은 은행, 교육, 의료 분야에서 사용자와 더욱 공감할 수 있는 관계를 형성하기 위해 인간의 감정을 모방할 수 있는 고급 챗봇을 출시할 것으로 예측하고 있다.

마이크로소프트의 챗봇 샤오아이스(Xiaoice)는 이미 중국에서 성공을 거두었으며, 한 달에 평균 60회 이상 '그녀'와 대화를 나눈 것으로 보고되었다. 또한 사용자가 10분 동안 봇으로 인식하지 못하는 튜링 테스트도 통과했다.

주니퍼 리서치 컨설팅의 분석에 따르면 의료 분야의 챗봇 상호작용은 2018년 대비 약 167% 증가해 2023년에는 연간 28억 건에 달할 것으로 예상된다. 이를 통해 의료진의 시간을 절약하고 전 세계 의료 시스템에서 약 37억 달러를 절약할 수 있을 것으로 예측된다.

교육계에서도 감정 AI의 활용이 점점 보편화되고 있다. 홍콩의 일부 중등학교에서는 이미 학생 얼굴 근육의 미세한 움직임을 측정하고 다양한 부정적, 긍정적 감정을 식별하는 인공지능 프로그램을 파인드 솔루션 AI(Find Solutions AI)에서 개발해 사용하고 있다. 교사는 이 시스템을 사용해 학생의 감정 변화와 동기 부여 및 집중력을 추적하여 학생이 흥미를 잃는 경우 조기에 개입할 수 있다.

그러나 감정 AI도 장점만 있는 것이 아니다. 감정 AI의 가장 큰 문제는 결함이 있는 과학에 기반을 두고 있다는 점이다. 감정 AI 알고리즘은 방대하고 다양한 데이터 세트를 학습하더라도 사람의 사회적, 문화적 맥락과 상황을 고려하지 않고 얼굴 표정과 음색을 감정으로 환원한다.

예를 들어, 알고리즘은 사람이 울고 있다고 인식하고 보고할 수 있지만, 눈물의 이유와 의미를 정확하게 추론하는 것은 가능하지 않다. 마찬가지로 찡그린 얼굴이 반드시 화난 사람이라는 것을 의미하지는 않지만, 알고리즘은 그렇게 결론을 내릴 가능성이 높다.

우리 모두는 사회적, 문화적 규범에 따라 감정 표현을 조정하기 때문에 표정이 항상 내면의 상태를 정확하게 반영하는 것은 아니다.

사람들은 종종 자신의 실제 감정을 위장하기 위해 '감정 작업'을 하며, 감정을 표현하는 방식은 자발적인 표현이 아니라 학습된 반응일 가능성이 높다. 예를 들어, 여성은 남성보다 자신의 감정을 더 많이 수정하는 경우가 많으며, 특히 분노와 같이 부정적인 가치가 부여된 감정을 더 많이 수정하는 것으로 나타났다.

따라서 감정 상태를 가정하는 AI 기술은 우리 사회에서 성별 및 인종 불평등을 악화시킬 가능성이 높다. 2019년 유네스코 보고서는 고정관념에 따라 설계된 '여성스러운' 음성비서 시스템을 통한 AI 기술의 젠더화가 미치는 해로운 영향을 보여주었다.

전문가들은 얼굴 인식 AI는 인종적 불평등을 고착화할 수도 있다고 지적하고 있다. 두 가지 인기 있는 감정 인식 소프트웨어 프로그램인 페이스(Face)와 마이크로소프트의 페이스API를 사용해 400개의 NBA 경기를 분석한 결과, 흑인 선수가 웃고 있을 때에도 평균적으로 더 많은 부정적인 감정을 부여하는 것으로 나타났다.

이러한 결과는 흑인 남성은 공격적이고 위협적이라는 고정관념 때문에 직장에서 더 긍정적인 감정을 투사해야 한다는 연구 결과를 확인시켜 주었다.

한 인공지능 전문가는 “감정 AI 기술은 앞으로 더욱 널리 보급될 것이지만, 이를 검토하지 않고 방치한다면 인종과 성별에 대한 편견을 강화하고, 세상의 불평등을 재생산 및 강화하며, 소외된 사람들에게 더욱 불이익을 줄 것”이라고 말했다.