모든 AI 도입 기업들은 AI와 관련된 위험을 효과적으로 고려하고 관리했다는 것을 입증해야 한다. 지금까지 이러한 중요한 요구를 해결하기 위해 거버넌스 및 위험 관리팀들은 AI 거버넌스에 필요한 위험 관리 원칙을 이해하고 이러한 요구사항을 어떻게 다루고 확인할지 고려하기 위해 ISO/IEC와 NIST와 같은 다양한 출처의 표준과 참조를 고려해야 했다.

AI 위험 관리 기대치와 관련 제어 요구 사항을 이해하는 것은 수많은 위험 관리 결과를 구현하고 문서화하는 데 기초가 된다. 이러한 노력의 관리 수명 주기는 복잡하다. 조직 전체에서 위험 관리 요구 사항을 사회화하고, 다양한 위험 관리팀의 정보를 수집하고, 해당 요구 사항의 완료 및 성숙도를 포함한 의미 있는 보고서를 제공하기 위해 여러 가지 다른 접근 방식을 개발하기 때문이다.

이러한 문제를 해결하기 위해 기업 리스크 관리, 정보 보안 및 규정 준수 보증 분야의 전문업체인 하이트러스트(HITRUST)가 조직 내 AI 위험 관리 프로세스에 대한 포괄적인 평가 방식인 ‘AI RM 어세스먼트(AI Risk Management Assessment)’를 출시했다.

하이트러스트의 접근 방식은 AI 도입자와 리더 들이 명확히 이해할 수 있는 접근법을 통해 AI 위험 관리 기대치와 결과에 기반하며, NIST와 ISO/IEC에서 발행한 표준과도 일치한다.

하이트러스트 AI RM 어세스먼트는 완전한 평가 접근 방식, SaaS 플랫폼 및 생태계로 전적으로 지원되어 AI를 도입하는 기업들이 AI 위험 관리 결과가 충족되었음을 입증하는 데 사용할 수 있다. 이 제품은 ML과 LLM과 같은 AI 기반 기술을 사용하거나 배포하는 모든 조직의 AI 위험 관리 노력을 벤치마킹하고 보고하는 데 필수적인 도구를 제공하며, AI 위험 관리를 다루는 포괄적인 접근 방식과 리더십을 검증한다.

하이트러스트의 최고 전략 책임자인 로버트 부커(Robert Booker)는 “AI 위험 관리에 대한 표준은 빠르게 진화하고 있으며, 기업들은 이러한 원칙들을 신중하고 포괄적으로 다루어야 한다. 이 중요하고 강력한 능력에 대한 거버넌스는 AI가 제공하는 잠재력을 끌어내는 데 필수적이며, 위험 관리는 AI를 책임감 있게 구현하는 데 중요하다.”라고 말했다.

하이트러스트 AI RM 어세스먼트는 AI 위험 관리와 보안을 다루도록 설계된 일련의 AI 보증 솔루션 중 두 번째이다. 또한 하이트러스트는 2024년 4분기에 AI 보안 인증 프로그램을 출시할 예정이다. 이 프로그램에는 하이트러스트 CSF에 통합된 AI 관련 제어 사양과 회사의 보증 방법론, 시스템 및 생태계에 대한 개선 사항이 포함된다. AI 보안 인증은 AI 관련 시스템을 위한 매우 신뢰할 수 있는 보안 보증 솔루션을 제공할 것이다. 이 두 가지 제품은 서로를 보완하도록 설계되었으며, AI RM이 시작점 역할을 하고, 이후 특정 AI 배포에 대한 AI 보안 인증을 수행한다.

하이트러스트의 AI RM 솔루션은 자체 평가 및 벤치마킹 도구로 사용될 수 있으며, 기업들은 100개 이상의 하이트러스트 외부 평가 기관 중 하나를 활용하여 구현을 검증하고 확인할 수 있다. 기존 하이트러스트 고객들은 MyCSF에 대한 기존 구독에 간단한 보고서 크레딧을 추가하여 이 기능을 사용할 수 있다.