전세계적으로 AI  신뢰에 대한 문제가 발생하고 있는 가운데 AI 시스템이 안전하고 윤리적으로 작동할 수 있는 AI 신뢰성 정립과 함께 산업 활성화를 위해 전세계적으로 AI 신뢰성에 대한 산업 표준 개발이 활발히 진행되고 있다. 

AI 신뢰성에 대한 산업 표준은 AI 시스템의 개발, 평가, 사용에 대한 공통적인 기준을 제공해 신뢰성 있는 AI 개발과 확산의 지침이 된다. 또한 AI 신뢰성에 대한 공통적인 기준이 마련되면, AI 시스템의 개발자와 사용자는 AI 시스템의 신뢰성을 보다 쉽게 평가하고, 신뢰성이 높은 AI 시스템을 선택할 수 있다.

뿐만 아니라 AI 시스템의 개발, 평가, 사용에 대한 안전과 윤리적인 고려 사항이 포함되므로 AI 시스템의 안전사고 발생 가능성을 줄이고, AI 시스템의 윤리적 사용을 촉진할 수 있다.

과학기술정보통신부(장관 이종호, 이하 ‘과기정통부’)와 한국정보통신기술협회(회장 손승현, 이하 ‘TTA’)는 ‘인공지능(이하 ‘AI’) 시스템 신뢰성 제고를 위한 요구사항’ 정보통신단체표준(이하 ‘단체표준’)을 제정했다고 밝혔다.

과기정통부와 TTA는 2021년부터 국내 산업계 전반에 AI 윤리·신뢰성 인식 확산을 위해 기업들이 AI 신뢰성을 확보할 수 있도록  분야별 ‘신뢰할 수 있는 AI 개발안내서’를 개발·보급과 함께  ‘AI 신뢰성 컨설팅’ 서비스를 제공해왔다.

이번에 제정된 단체표준은 과기정통부의 ‘국가 AI 윤리기준’, 분야별 ‘신뢰할 수 있는 AI 개발안내서’를 기반으로 신뢰성 적용범위로 ▲특성 ▲시스템 생명주기 ▲이해관계자 ▲요구사항을 제시하였다.

① 세부특성 : 견고성, 보안성, 설명가능성, 신뢰성, 안전성, 예측가능성, 제어가능성, 책임성, 투명성, 공정성, 프라이버시, 회복탄력성

② 생명주기 : 초기, 설계‧개발, 검증‧확인, 배치, 운영‧모니터링, 지속적 확인, 재평가, 폐기

③ 이해관계자 : AI 제공자, AI 생산자, AI 고객, AI 파트너, AI 영향대상, 관계기관

④ 요구사항 : AI 시스템 위험관리 계획 및 수행, 수집‧가공된 학습데이터의 편향 제거, AI 모델의 편향 제거, AI 시스템의 안전모드 구현 및 문제발생 알림절차 수립 등 15가지

이번 단체표준 제정은 AI 신뢰성 확보 기준 정립과 함께 국내 AI 산업의 신뢰성 저변 확대를 위한 발판이 마련될 것으로 기대된다. 또한, AI 신뢰성 관련 국제표준인 ISO/IEC TR 24028(신뢰성 개요), ISO/IEC 23894(위험관리), ISO/IEC 22989(용어)의 신뢰성 개념과 용어, 요구사항과의 내용 일관성을 유지해 국제 호환성도 확보 됐다.

과기정통부와 TTA는 이번 단체표준 제정을 시작으로 향후 단체표준의 요구사항에 대한 검증 프로세스를 표준화하고, 단체표준의 내용을 분야별로 확대하여 위험 기반의 검증 항목·절차에 대한 표준화를 지속 추진하겠다고 밝혔다. 이와 함께 국제 표준화 단체인 ISO/IEC의 AI 그룹인 JTC1/SC42에 AI 신뢰성 신규 표준 제안과 함께 미국‧영국 등 글로벌 주요국과 표준화 협력을 강화해 AI 윤리·신뢰성 관련 표준에 대한 글로벌 주도권을 확보해 나갈 계획이다.

 과기정통부 박윤규 2차관은 “그간 정부가 추진해 왔던 AI 윤리‧신뢰성 제고를 위한 정책적 노력으로써 AI 시스템의 신뢰성 확보를 위한 기준이 마련되었다는 점에서 의미가 크다.”라며, “국내 AI 산업 신뢰성 확보를 위해 정책적 지원을 확대하고, 국내기업들이 글로벌 진출을 확대해 나갈 수 있도록 AI 신뢰성 분야 국제표준화도 적극 추진해 나가겠다.”고 밝혔다.

[알림] GTT KOREA의 동영상 마케팅 플랫폼 GTT SHOW는 오는 12월 14일 목요일 오후 2시부터 오후 3시까지 “기업의 데이터 중심 성과향상과 의사결정 효율 높이는 '전사 기업성과관리' 전략”을 주제로 무료 온라인 세미나를 진행한다. 기업의 다양한 성과 지표의 측정과 분석, 경영계획, 이동계획, 차이 및 변수 별 분석 등 경영 의사결정을 돕고 경쟁력을 강화하는 기업성과관리(CPM) 솔루션 및 ERP와 함께 운용했을 때의 장점과 실제 도입 사례를 통해 전사 CPM과 경영계획 프로세스를 개선하는 전략과 활용법이 소개된다.