AI는 기업 혁신의 핵심 동력으로 자리 잡으며, 많은 기업이 AI 도입을 위한 적극적인 투자와 실행 전략을 추진하고 있다. AI 기반 자동화, 생성AI(GenAI), 예측 분석 등 다양한 활용 사례가 등장하면서, AI가 기업 경쟁력을 결정하는 주요 요소로 떠오르고 있다.

그러나 AI 도입과 효과적으로 사용하는 지표인 성숙도 사이의 격차가 여전히 뚜렷하다. 많은 조직이 AI를 단순한 실험적 도입(PoC) 수준에서 활용하고 있으며, 실질적인 비즈니스 성과(ROI)와 연결하는 데 어려움을 겪고 있다.

IT 솔루션 및 클라우드 서비스 제공 글로벌 기업 이플러스(ePlus)가 AI 투자와 투자 수익률 간의 관계와 기업이 직면한 도전 과제를 분석한 첫 번째 ‘AI 준비 상태(AI Readiness)’ 보고서를 발표했다.

보고서는 2024년 12월에 열린 ‘AI 서밋 뉴욕’에서 200명의 IT 전문가 대상으로 진행한 설문조사를 토대로 작성됐다.

AI 도입과 적용의 간극

다양한 산업에서 AI의 관심과 투자가 급증하고 있음에도, 응답자의 대다수는 여전히 AI 도입 초기 단계에 머물러 있다고 답했다. 42%는 ‘AI에 관심 있는 단계’, 28%는 ‘AI 준비 단계’, 24%만 ‘AI 성숙 단계’라고 응답했다.

특히, AI를 실제 비즈니스에 성공적으로 적용하고 있는 조직은 24%에 불과하며, 대부분은 AI 도입 초기 단계에서 성숙 단계로 나아가는 과정에서 여전히 격차를 보이고 있었다.

보고서는 AI의 잠재력에 대한 기대는 크지만, 이를 효과적으로 실행하는 성숙도의 격차가 뚜렷하다고 설명했다. 2025년에는 ‘AI 투자의 ROI’와 ‘도입 방해 요소’ 사이의 균형이 주요 이슈가 될 것이라고 강조했다.

도입 방해 요소

조사 결과, 기업이 AI 도입 과정에서 직면하는 문제는 기술 및 인력 부족(41.8%), 비용(38.8%), 보안(35.8%) 순이었다. 즉, AI 도입을 가속하려면 기술 인력 양성, 비용 절감 전략, 보안 프레임워크 마련이 필수적임을 시사했다.

또한 응답자의 74.8%가 향후 12개월 이내에 생성AI를 도입할 계획이라고 답해 AI의 영향력과 가치를 높이 평가했다. 

그러나 생성AI 도입을 적극 검토하는 동시에 규제 및 거버넌스 문제를 우려했다. 78.2%는 생성AI의 접근 제어 및 거버넌스 역량에 대해 불안감을 표했으며, 46%는 어느 정도 자신 있다고 말했다. 32.2%는 보통 수준으로 자신 있다고 응답했다.

따라서 철저한 규제 및 거버넌스 체계를 마련하는 것이 향후 AI 도입 성공의 핵심 요인이라고 설명했다. 특히, 새로운 수준의 거버넌스 및 통제가 필수적이며, 그 중 데이터 관리가 중요한 역할을 한다고 분석했다.

데이터 관리가 핵심

기업의 AI 도입 시 가장 큰 데이터 관련 우려 사항은 데이터 품질(61%), 데이터 보안(54.5%), 데이터 거버넌스(52%) 순이었다.

따라서 AI 도입을 효과적으로 준비하려면, AI 목표에 맞는 데이터를 식별하고, 데이터 저장 위치를 파악하며, 데이터 사일로를 해체하고, 데이터 태깅 및 거버넌스를 강화해야 한다고 강조했다.

결과적으로, 기업이 AI 기술을 성공적으로 활용하기 위해 AI 모델 학습을 위한 고품질 데이터 확보와 강력한 보안 및 거버넌스 체계 수립이 필수적임을 시사한다.