조사에 따르면 책임 있는 AI의 중요성에 대한 인식이 높음에도 불구하고 심각한 거버넌스 격차가 여전히 존재하여 산업 전반의 혁신과 규정 준수가 위협받고 있는 것으로 나타났다.

글로벌 엔터프라이즈 AI 플랫폼 공급업체인 도미노 데이터 랩(Domino Data Lab)이 ‘2024 REVelate 설문 조사 보고서’를 발표했다. 이 보고서는 117명의 AI 리더 대상으로 실시한 설문 조사를 토대로 AI에 대한 열망과 책임 있는 AI 거버넌스를 실행하는 데 필요한 리소스 간의 격차를 밝혀냈다.

조사에 따르면, 97%의 조직이 책임 있는 AI에 대한 목표를 설정했지만 거의 절반(48%)은 필요한 거버넌스 프레임워크를 구현할 리소스가 부족한 것으로 나타났다.

기업 AI 환경에서 책임 있는 AI가 혁신과 규정 준수에 필수적인 것으로 여겨지지만, 리소스 제약으로 인해 완전한 실행이 불가능한 준비 격차가 커지고 있다.

부상하는 AI 거버넌스, 그러나 과제도 양립

보고서는 책임 있는 AI가 이제 최우선 사업 우선순위임을 보여주며, 43%의 리더가 이를 사업 성과를 이끄는 데 "매우 중요"하다고 평가하여 비즈니스 인텔리전스와 같은 기존 우선순위를 앞지르고 있다.

그럼에도 불구하고 리소스 부족은 여전히 ​​주요 장애물이다. 이러한 노력에도 불구하고 설문 응답자의 거의 절반(48%)은 효과적인 AI 거버넌스를 구현하는 데 가장 큰 장애물로 리소스 제약을 꼽았고, AI를 거버넌스할 기술이 부족하다는 것(38%)도 꼽았다.

AI를 제대로 관리하지 못할 경우의 위험은 상당하다. 보고서에 따르면 규제 위반이 응답자의 49%에게 가장 큰 우려 사항이며, EU AI법과 같은 규정에 따른 잠재적 벌금은 전 세계 연간 수익의 최대 7%에 달한다.

규제 우려 외에도, 응답자의 46%는 거버넌스 문제가 해결되지 않으면 평판이 손상되고 혁신이 중단될 것을 우려한다.

재정적 비용도 조직의 부담이 컸는데, 응답자의 34%가 제대로 관리되지 않은 AI 시스템의 오류로 인해 운영 비용이 증가했다고 보고했다.

혁신과 규제의 균형, AI 거버넌스 프레임워크 구축 필요

AI 규제에 대한 광범위한 지지가 있는 반면, AI 리더의 71%는 규제가 AI의 안전한 사용을 보장할 것이라고 믿지만, 지나치게 엄격한 거버넌스가 혁신을 늦출 수 있다는 우려가 있다. 거의 절반(44%)의 응답자는 규제가 AI 도입을 방해할 수 있다고 우려한다.

이 조사는 AI 거버넌스의 현재 상태와 의견이 엇갈리고 있다. 응답자의 51%가 기존 규제 프레임워크가 현재 형태로는 시행 가능하다고 생각하지 않고 있다. 이는 더 잘 정의되고 실행 가능한 표준이 지속적으로 필요하다는 것을 보여준다.

거버넌스 과제를 해결하기 위해 많은 조직이 책임 있는 AI 원칙을 실천으로 전환하는 프레임워크를 우선시하고 있다.

보고서에 따르면 47%의 기업이 책임 있는 AI 원칙을 정의하는 데 중점을 두고 있으며, 44%는 AI 라이프사이클 전반에 걸쳐 정책이 일관되게 적용되도록 거버넌스 플랫폼을 구축하고 있다. AI 윤리 위원회를 구성하는 관행은 상당히 낮은 순위를 차지하며, 29%만이 책임 있는 AI를 구현하는 최고의 접근 방식으로 평가했다.

또한 로깅 및 감사 가능성(74%), 재현성(68%), 모니터링(61%)이 책임 있는 AI를 지원하는 데 필요한 가장 중요한 역량으로 나타났다.

도미노 데이터 랩의 AI 전략 책임자인 켈 칼슨(Kjell Carlsson) 박사는 "책임 있는 AI의 가치에 대한 인식이 커지고 있음에도 불구하고 많은 기업이 거버넌스를 시행할 준비가 되어 있지 않아 재정적 처벌, 평판 손상 및 혁신 저해의 위험이 있다."라며, "AI를 비즈니스의 모든 부분으로 확장하려는 욕구와 국제적, 주 및 심지어 지방 자치 단체 수준에서 규제가 증가함에 따라 조직의 효과적인 AI의 개발 및 배포를 위한 AI 거버넌스 프레임워크 구축이 그 어느 때보다 중요해졌다."고 말했다.

[알림] GTT KOREA와 전자신문인터넷이 오는 9월 27일(금) 서울 양재동 엘타워 그레이스홀(양재역)에서 공동으로 주최하는 “NABS(Next AI & Bigdata Summit) 2024”에서는 “비즈니스에 성공하는 AI & Big Data 혁신 전략”을 주제로 글로벌 AI와 빅데이터 산업을 이끌고 있는 글로벌 리더 기업들이 급변하는 기술과 비즈니스 환경에서 생산성과 효율성 및 비용 절감까지 조직과 비즈니스를 혁신할 수 있는 맞춤형 차세대 AI와 빅데이터 전략을 제시한다.