조사에 따르면 직원의 78%가 업무에 개인 AI 도구를 사용하며, 기업의 86%가 이사회가 모르는 상황에서 어떤 형태로든 AI를 사용하고 있는 상황이다. 이처럼 AI 환경이 발전하면서 AI가 활용되고 있어 조직들은 혁신과 규제 준수 및 윤리적 고려 사항 사이의 균형을 맞춰야 하는 도전에 직면했다. EU의 AI 법(EU AI Act)은 AI 시스템이 안전하고 투명하며 기본권을 존중하도록 보장하는 중요한 규제적 이정표로 평가받고 있다.

EU AI 법은 인공지능의 안전성과 윤리적 사용을 보장하기 위해 도입된 법안으로, AI 시스템의 위험 수준에 따라 규제를 차별화한다. 고위험 AI 시스템은 엄격한 요건을 충족해야 하며, 사용 중인 AI의 투명성, 안전성, 비차별성 등을 보장하도록 요구된다. 이 규정은 기업들에게 AI 시스템의 설계, 테스트, 배포 과정에서 높은 수준의 준법성을 요구하며, 특히 AI를 활용하는 의료, 금융, 인프라 분야에 큰 영향을 미치고 있다. 기업들은 규정 준수를 위해 추가 비용과 시간이 소요될 수 있다.

거버넌스, 위험관리, 컴플라이언스(이하 GRC) SaaS 기업인 딜리전트(Diligent)가 새로운 인공지능법 툴킷(Artificial Intelligence(AI) Act Toolkits)을 출시했다.

이 툴킷은 기업의 총무팀, 법무팀 및 규정 준수팀, 최고기술책임자, 최고정보보안책임자, 감사팀이 갈수록 복잡해지는 인공지능 거버넌스 및 인공지능 규제 준수 환경에 대응할 수 있도록 지원한다. 이 툴킷은 유럽연합(EU) 경내와 경외에서 운영하는 기업이 EU AI 법의 요구 사항을 이해하고 준수하며, 책임 있고 윤리적인 AI 도입 접근 방식을 통합하여 새로운 기술에 대한 신뢰를 구축하고 AI 거버넌스에 대한 글로벌 표준을 준수할 수 있게 한다.

딜리전트 원 플랫폼(Diligent One Platform) 내에서 세 가지 툴킷이 제공된다.

AI 검색 및 리스크 분류 툴킷은 고객이 AI 시스템을 식별하고 필요한 리스크 분류 작업을 지원한다. 또한 광범위한 AI 리터러시 및 모범 사례 거버넌스 리소스에 대한 액세스를 제공하여 이사회, 고위 경영진 및 직원이 조직적 준비도를 가속화하고 AI 거버넌스 향상을 돕는다. 이 툴킷은 모든 딜리전트 원 플랫폼 고객에게 제공된다.

AI 법 IT 규정 준수 툴킷은 조직이 규제 요구 사항을 이해하고, 제안된 관리 절차에 이러한 요구 사항을 매핑하며, 규정 준수 문서화를 지원한다. AI 법의 규제 요구 사항에 대해 제안된 관리 절차 매핑, 격차 식별, 관리 절차 평가를 위한 대시보드 요약, 개선 사항 요약 및 주요 이해관계자에 대한 알림을 제공한다.

AI 법 IT 규정 준수툴킷은 완전한 AI 거버넌스 프로그램을 지원한다. 여기에는 리스크를 검토하고 우선순위를 정하기 위한 리스크 히트맵(heatmap), 리스크 수준별로 AI 시스템을 요약하는 대시보드, 사전 구성된 AI 위협 라이브러리, 정책 준수 및 규정 준수를 보장하기 위한 지속적인 모니터링 도구 등이 포함된다.

이처럼 딜리전트의 AI 법 툴킷은 규정 준수, 거버넌스 및 리스크 관리 업무를 지원하도록 설계되었다. 툴킷은 고객이 AI 시스템과 모델을 식별하고, 리스크 기반 분류를 적용하고, AI 법에 따른 제공자 및 배포자의 의무를 이해하고, AI 거버넌스 프레임워크를 구축하며, 지속적인 규정 준수를 모니터링하도록 지원한다. 이로써 책임감 있고, 윤리적으로, 고객, 파트너, 직원 및 규제 기관의 기대치에 따라 규정 준수 노력을 문서화하는 방식으로 AI 시스템을 구현할 수 있다.

이 툴킷은 AI 시스템과 관련된 리스크를 평가하고 관리하기 위한 강력한 프레임워크를 제공하여 조직이 윤리적 고려 사항이 녹아든 AI를 개발하고, EU의 AI 법을 지속적으로 준수할 수 있도록 지원한다. 

딜리전트의 수석부사장 겸 국제 총괄 매니저인 키스 페너(Keith Fenner)는 “딜리전트 AI 법 툴킷은 고객이 규제 의무를 식별하여 매핑하고, 모범 사례 관리 절차(best practice controls)를 시행하며, 책임감 있게 AI를 관리하도록 지원한다.”라며 “이 솔루션은 발전하는 글로벌 규정을 준수하는 동시에 AI 기술 채택을 가속화하고 가치를 제공하도록 보장한다.”고 덧붙였다.