29일 이스트소프트가 ‘제1회 인공지능 신뢰성·품질 대상’에서 우수상을 수상했다고 밝혔다.

이 대회는 과학기술정보통신부가 주최하고 한국정보통신기술협회(TTA)와 정보통신정책연구원(KISDI)이 주관한 것으로, 인공지능(AI) 기술의 신뢰성과 품질의 중요성을 널리 알리기 위해 마련된 자리다.

이스트소프트는 정부의 ‘AI 3대 원칙 및 10대 요건’을 준수해 AI 기술 개발 및 활용에서 확보한 신뢰성과 품질이 인정되어 수상했다.

‘AI 휴먼 랩’은 자체 운영 중인 품질 관리체계와 테스트 요청서를 기반으로 AI 휴먼 시스템의 성능을 지속적으로 관리하고 있다. 문제 발생 시에는 신속한 대응이 가능하다.

AI 휴먼 개발에 필요한 데이터 및 기술은 자사의 보안 기술 역량으로 효과적으로 보호되고 있다.

또한 회사는 자체적으로 구축한 ‘5대 AI 윤리강령’을 주력 제품인 AI 휴먼의 개발 및 활용 과정에 적용 중이다.

주요 내용은 '인간의 존엄성 존중', '사회 공동선 추구', '공정성 및 다양성 인정', '사회 윤리 준수', '개인정보 및 데이터 보호' 등이다. 매년 AI 관련 교육과 시스템 운영 개선을 위한 모니터링도 실시하고 있다. 

최근에는 대화형 AI 휴먼 구동을 위해 환각 현상을 최소화하고 최신 정보를 제공하도록 최적화한 GPT를 지속해서 고도화 중이다. 

이와 함께 딥페이크 등 생성형 AI에 따른 사회적 문제를 예방하기 위한 탐지 기술을 개발·테스트하는 등 AI 기술의 윤리적 활용을 위한 활동에 적극 나서고 있다. 

앞으로는 이스트소프트의 AI 휴먼 서비스인 'AI 스튜디오 페르소'에서 생성된 영상은 워터마크(식별표시)를 표시할 예정이다.