정부가 이미 구현중인 인공지능(AI) 시스템에 판단기술 등을 설명할 수 있는 기능을 추가하고, 인공기능이 스스로 법과 제도, 윤리적 편향성을 진단하고 효율적으로 제거할 수 있도록 하는 원천기술 개발을 추진한다.

과학기술정보통신부는 13일 오후 서울중앙우체국 스카이홀에서 열린 대통령 직속 4차산업혁명위원회 제22차 전체회의에서 이같은 내용을 담은 '신뢰할 수 있는 인공지능 실현전략'을 발표했다.

김경만 과기정통부 인공지능기반정책과 과장은 4차위 전체회의 사전 브리핑에서 "첫번째 심의안건인 신뢰할 수 있는 인공지능 실현전략은 인공지능이 전 산업과 사회에 빠르게 도입·확산됨에 따라 예상치 못하게 발생하고 있는 사회적 이슈와 우려에 대해 선제적으로 대응하기 위해 마련된 전략"이라며 "누구나 인공지능을 신뢰하고 안전하게 혜택을 누릴 수 있는 '사람이 중심이 되는 인공지능 강국 실현'을 위해 추진됐다"고 밝혔다.

인공지능 챗봇 '이루다'와 같은 개인정보 침해나 버락 오바마 전 미국 대통령이 트럼프 전 대통령을 원색 비난하는 딥페이크 가짜 영상 논란 등 인공지능 확산에 따른 예상하지 못한 사회적 문제들을 사전에 차단하겠다는 것이다. 이번 전략은 지난해 12월 발표한 '인공지능 윤리기준'의 실천방안을 구체화했다.

우선 인공지능의 설명가능성,공정성, 견고성 제고를 위한 원천기술 개발을 위해 오는 2022년부터 2026년까지 5년간 650억원 이상의 예산을 투입한다.

설명가능 분야 기술개발은 개발된 인공지능 모델에 전문가 보고서 생성 수준의 설명가능성을 제고하는 것으로 총 450억원을 투입한다.

공정분야는 규정 등으로부터 스스로 편향 요인을 식별, 편향성 가능성을 진단하고 최적의 제거 방안을 적요하는 것으로 200억원을 투입할 예정이다. 복합 정보를 이용한 인공지능 공격에 대한 선제적 대응 기술 개발은 현재 기획중이다.

◇신뢰성 관련 법·제도·윤리·기술 요구사항 확인 '개발 가이드북' 제작

정부는 또 신뢰 가능한 인공지능 구현 환경 조성을 위해 기업과 개발자, 제3자 등이 참조할 수 있는 신뢰 확보 기준과 방법론을 제시하고 지원한다.

이를 위해 개발단계에서는 국내외 신뢰성 관련 법·제도·윤리·기술적 요구사항을 한번에 확인할 수 있는 '개발 가이드북'을 제작한다.

검증단계에서는 개발 가이드북을 준수한 신뢰성 확보 여부와 그 수준을 확인하고 평가할 수 잇는 검증절차와 항목, 방법 등 검증체계를 마련하고 제시한다.

인증단계에서는 기술·윤리적 요구사항을 충족하며 검증체계를 통과한 제품과 서비스에 대해 민간 자율 인증과 공시를 추진할 방침이다.

◇스타트업, 체계적 신뢰성 확보 위한 통합 플랫폼 운영

민간의 인공지능 신뢰성 확보를 위해선 기술·재정적 상황이 열악한 스타트업 등이 체계적으로 신뢰성을 확보해 나갈 수 있도록 인공지능 구현을 위해 '데이터 확보, 알고리즘 학습, 검증'을 통합 지원하는 플랫폼을 운영한다.

학습용 데이터와 고성능 컴퓨팅 자원을 지원 중인 인공지능 허브 플랫폼에서 검증체계에 따른 신뢰 속성별 수준 분석과 실환경 데스트 등의 기능을 추가 개발해 일괄 지원할 방침이다.

아울러 인공지능이 국민생활 전반에 미치는 영향을 종합·체계적으로 분석하고 대응하기 위한 '지능정보화기본법 '제56조에 규정된 사회적 영향평가를 도입할 계획이다.

지능정보화기본법 제56조는 국가와 지자체는 국민의 생활에 파급력이 큰 지능정보서비스 등의 활용과 확산이 사회·경제·문화 및 국민의 일상생활 등에 미치는 영향에 대해 조사하고 평가할 수 있도록 하고 있다.

◇사업자등록번호 공공데이터로 개방하기로

4차위는 이외에도 '4차 산업혁명시대, 데이터 기반 중소기업 중심 지원체계 구축'안과 국가 데이터 정책방향의 후속조치인 '데이터기반 행정 책임관 운영 내실화 방안' 등을 심의했다.

'4차 산업혁명시대, 데이터 기반 중소기업 중심 지원체계 구축'안은 코로나19 등 경영환경의 불확실성이 확대되는 가운데 데이터에 기반한 중소기업 정책인프라 체계마련이 필요하다는 인식이다. 

데이터 행정 책임관 운영의 경우 조직 내부 기능조정 등을 통해 국장급인 '데이터기반 행정 책임관'을 전담 지정하고, 데이터 관련부서 인력인력을 보강하는 등 책임관이 실질적인 역할을 할 수 있도록 하는 내용을 담고 있다.

또 결합시 표준화된 연계 값으로 쉽고 편리하게 활용 가능한 사업자등록번호를 공공데이터 개방시 포함하도록 했다. 그동안 사업자등록번호는 법인의 비밀로 오해되어 개방되지 않았다.

윤성로 4차위 위원장은 "인공지능 대중화를 위해서는 '신뢰할 수 있는 인공지능 실현전략'에 따른 실행이 중요하다"며 "이번 4기 4차위는 현장·정부·세대간 소통을 통해 정부와 민간, 현재와 미래를 잇는 가교로 역할을 강화해 나가겠다"고 말했다.