AI는 정보기술을 활용하는 모든 부문에서 주목을 받고 있지만, 신중한 거버넌스 메커니즘이 필요한 조직에는 위험을 초래할 수 있다.

새로운 국제 표준은 모든 조직들이 인공지능(AI) 시스템을 책임감 있게 사용하도록 지침을 세웠다. ISO/IEC 42001은 국제표준화기구인 국제전기기술위원회(ISO/IEC) 공동기술위원회(JTC) 1, 정보 기술, 분과위원회(SC) 42에서 개발한 인공지능 관리 시스템이다. JTC 1에서는 미국이 주도적인 역할을 하고 있으며, ISO의 미국 회원국인 미국표준협회(ANSI)가 사무국을 맡고 있다.

ISO/IEC 42001:2023은 AI 관리 시스템을 안내해 기술의 복잡성을 해결하고 AI의 책임감 있는 사용을 지원하며 위험과 기회를 관리하기 위한 프레임워크를 제공한다. 이 표준은 규모, 유형, 특성에 관계없이 AI 시스템을 활용하는 제품이나 서비스를 제공하거나 사용하는 모든 조직에서 AI 관리 시스템을 구축, 구현, 유지 관리 및 지속적으로 개선하기 위한 요구 사항을 명시하고 지침을 제공한다.

표준은 AI를 구축, 구현, 유지 관리 및 지속적으로 개선하는 PDCA(Plan-Do-Check-Act) 접근 방식에 중점을 두고 있다. 이 시스템은 AI 애플리케이션의 향상된 품질, 보안, 추적성, 투명성, 신뢰성을 지원한다. 궁극적으로 이 표준의 목표는 조직이 AI로부터 최대한의 이점을 얻을 수 있도록 돕고, AI를 통합한 시스템이 책임감 있게 개발, 관리, 사용되고 있음을 이해관계자들에게 확신시키는 것이다.

이 표준은 공공 및 민간 부문의 대표자, 규제 기관, 기술 전문가, 연구원, 학계 등 다양한 이해관계자들에 의해 개발됐다. SC 42는 63개국으로 구성돼 있으며, 그 중 1/3 이상이 개발도상국이다. SC 42의 많은 구성원들은 주로 AI 사용자가 될 이해관계자를 보유하고 있으며 기술 사용자와 개발자 모두를 포함하는 균형 잡힌 표준 개발 환경에 참여하고 있다.

ISO/IEC 42001은 현재 ANSI 웹스토어에서 구매하거나 ISO/IEC 42001, 정보기술 - 인공지능 - 관리 시스템 구독을 통해 구매할 수 있다. AI 표준 패키지(ISO/IEC 42001 / ISO/IEC 22989 / ISO/IEC 23894 - 인공지능 패키지)의 일부로 구입할 수도 있다.