조직이 책임감 있는 AI 거버넌스의 중요성을 점차 인식함에 따라 IT 리더는 조직의 위험을 완화하는 동시에 데이터 및 AI 모델의 적절한 사용을 보장하는 정책을 개발해야 하는 과제에 직면해 있다. 이 프로세스에서 중요한 것은 AI가 조직의 목표 및 가치와 원활하게 일치하도록 하기 위한 전략적, 전술적, 운영적 의사 결정 접근 방식을 식별하는 것이다.

정보 연구 및 컨설팅 기관 인포테크 리서치 그룹(Info-Tech Research Group)이 목적에 맞는 구조를 통해 책임감 있게 AI를 사용할 수 있도록 IT 리더가 효과적인 AI 거버넌스를 구축하기 위한 연구 보고서를 발표했다. 이 보고서는 조직이 모든 AI 노력에 걸쳐 책임과 규정 준수 문화를 조성하는 방법을 제시하고 있다.

효과적인 AI 거버넌스 구축의 중요성

이리나 세덴코(Irina Sedenko) 인포테크 리서치 그룹의 연구 이사는 "AI 거버넌스는 책임 있는 AI 배포 및 사용을 위한 프레임워크를 제공하여 조직의 목표 및 가치에 부합하는 동시에 윤리적 표준 및 규제 요구 사항을 준수하도록 보장한다."라며, "AI 시스템의 효과적이고 인간 중심적인 사용과 개발을 관리, 모니터링, 제어하기 위한 구조화된 접근 방식을 제공한다."고 말했다.

보고서는 조직이 AI 위험을 전체 위험 관리 프레임워크에 통합하는 데 직면하는 과제를 강조한다. 조직들은 AI 사용에 대한 정책이 있음에도 불구하고 많은 조직에는 규정 준수를 모니터링하고 시행하는 데 필요한 제어 기능이 부족하다. 조직이 AI 지원 애플리케이션을 획득하든, 통합업체와 파트너 관계를 맺든, 처음부터 모델을 개발하든 상관없이 기술 사용이 조직에 가장 이익이 되도록 보장하고 잠재적인 위험을 완화하기 위해서는 효과적인 AI 거버넌스가 필요하다.

스왚닐 어워스디(Swapnil Awasthi) 인포테크 리서치 그룹의 워크숍 품질 책임자는 "패키지형 또는 통합형 AI 도구에는 AI 모델의 편향, 데이터 개인 정보 보호 문제, 오용 가능성 등의 위험이 따른다."라며, "강력한 AI 거버넌스 프레임워크는 조직의 윤리적 표준과 가치에 부합하는 지침과 통제를 확립해 이러한 위험을 완화하는 데 도움이 된다. 이는 투명성과 공정성을 촉진한다."고 설명했다.

비즈니스에 AI 활용 가치 높이는  AI 거버넌스 전략

인포테크는 AI 거버넌스가 투자, 자원, 위험을 조직의 최대 이익에 맞춰 조정하여 실질적인 비즈니스 가치를 창출하는 것을 목표로 하는 일련의 관행과 구조를 구성한다고 설명한다.

보고서는 AI 거버넌스가 AI에 관한 조직의 목표 뿐만 아니라 이러한 목표를 달성하는 데 필요한 중요한 결정을 정의하는 방법을 설명하고 있다. 잘 정의된 AI 거버넌스 구조를 통해 조직은 위험을 효과적으로 처리할 수 있는 역량을 갖추게 되어 AI 사명과 비전을 달성하고 향상된 의사 결정 및 위험 관리를 위해 기술 사용을 전략적 목표에 맞게 조정한다.

보고서는 효과적인 AI 거버넌스를 위해 IT 리더들은 아래의 사항을 고려해야 한다고 제시하고 있다.

① 책임 있는 AI 및 AI 위험 해결

책임있는 AI 및 AI 위험 문제를 해결하려면 우선 AI 거버넌스, AI 위험, 위험 관리 프레임워크의 목표에 대한 기대치를 설정한다 .적절한 AI 위험 통제가 이루어지고 있는지 평가한다 .

AI 위험 관리 목표, 지표 및 목표를 식별하고, 조직의 책임 있는 AI 원칙을 결정하고 정의한다.

② AI 거버넌스 구조 정의

AI 거버넌스 구조를 정의 할 때는 조직의 AI 거버넌스 구조의 핵심 요소(전략, 전술, 운영)를 식별하며, 임무, 역할, 책임을 정의한다. AI 거버넌스와 기타 거버넌스 구조 간의 통합 지점을 식별한다.

③ AI 거버넌스 운영 모델을 정의

주요 AI 거버넌스 운영 모델 요소를 정의하고 AI 거버넌스 헌장의 첫 번째 초안을 개발한다. AI 거버넌스 절차 및 정책 프레임워크를 권장한다.

④ AI 거버넌스 구현 로드맵 구축

AI 거버넌스 구현 로드맵 구축을 위해 AI 거버넌스 이니셔티브를 식별한다 .

앤드류 샤프(Andrew Sharp) 인포테크 리서치 그룹의 연구 이사는 "조직이 자체 AI 시스템을 개발하든 AI 도구 및 기술을 도구에 내장된 AI와 통합하든 AI 거버넌스 프레임워크와 그 구성 요소는 동일하다."라며, "조직에서는 AI 시스템에 '구매' 접근 방식을 채택하면 획득한 제품과 시스템에 내장된 기술을 통제할 수 없기 때문에 AI 거버넌스가 필요하지 않다고 생각한다. 그러나 사실은 그렇지 않다. AI 거버넌스를 구현하여 투자, 허용된 위험 및 AI 프로젝트에 적용된 리소스가 비즈니스 가치에 맞춰지도록 보장한다."고 말했다.