국내 기업들이 생성AI(Generative AI)의 도입을 실험 단계를 넘어 실제 운영에 본격적으로 적용하면서, 이에 따른 조직 구조 변화와 기술 투자 전략의 전환이 요구되고 있다. 생성AI는 기존의 정보 처리 방식과는 다른 역량을 필요로 하며, 이를 효과적으로 관리하고 확산하기 위한 전담 리더십과 인재 전략이 필요하다. 

AI 및 클라우드 기업 아마존웹서비스(Amazon Web Services Korea, 이하 AWS)가 글로벌 컨설팅 기업 액세스 파트너십(Access Partnership)과 함께 2024년 국내 기업을 대상으로 수행한 ‘생성AI 도입 지수(Generative AI Adoption Index)’ 연구 결과를 13일 발표했다. 

이 조사는 금융, ICT, 제조, 유통 등 산업 전반에 종사하는 국내 고위 IT 의사결정권자 424명을 대상으로, 생성AI의 실험 단계에서 전면 도입 단계로 전환되는 과정과 그 전략적 패턴을 분석하기 위해 진행됐다.

생성AI 투자 우선순위 상승

국내 기업의 45%가 생성AI를 실제 운영 단계로 확장하고 있으며, 89%는 실험을 진행 중이다. 특히 96%의 기업은 2025년 생성AI 관련 직무 채용을 계획하고 있다고 응답했다. 또한, 응답자의 54%는 2025년 IT 예산 중 가장 높은 우선순위를 생성AI에 둘 계획으로, 보안(20%)이나 컴퓨팅(17%)보다 훨씬 높은 수치다.

이러한 수치는 생성AI가 단순한 기술 도입 수준을 넘어 조직 전략의 중심축으로 자리잡고 있음을 나타낸다. 기업들은 이 기술을 통해 신규 수익 창출(26%)과 혁신 가속화(21%)를 기대하고 있다.

CAIO 임명 확대…AI 변화 관리 위한 리더십 구조 진화

기존의 최고기술책임자(CTO)나 최고정보책임자(CIO)가 이끌던 기술 전환 구조는 생성AI의 복잡성과 조직 내 통합 과제를 반영해 진화하고 있다. 응답자의 63%는 생성AI 전략의 수립과 실행, 변화 관리를 총괄할 전담 리더인 최고 AI 책임자(CAIO, Chief AI Officer)를 이미 임명한 상태다.

현재 AI 변화 관리 전략을 갖춘 조직은 전체의 10%에 불과하지만, 78%의 기업은 2025년 말까지 관련 이니셔티브를 도입할 계획이다. 이는 CAIO의 역할이 전략 수립을 넘어 조직 내 AI 문화 조성과 실행력 확보에 집중되고 있음을 보여준다.

한편, 국내 기업들이 내부 인력의 AI 역량 강화를 위한 교육 프로그램 도입과 외부 AI 전문 인재 채용을 병행하는 이중 전략을 채택하고 있다. 현재 54%의 기업이 생성AI 교육 프로그램을 도입했으며, 17%는 2025년 말까지 도입할 계획이다.

특히 부서 내 AI 역량을 전체 조직에 확산시켜야 하는 기술 리더들에게 인재 확보는 필수적 과제로 떠올랐다. 96%의 기업이 2025년 생성AI 역량을 요구하는 직무 채용을 계획하고 있으며, 이는 향후 AI 활용 역량의 내재화가 기업 경쟁력의 핵심 요소가 될 것임을 시사한다.

통합 전략으로 전환 가속

조직들은 생성AI의 전사적 도입을 위해 다양한 전략을 시도하고 있다. 국내 기업의 56%는 범용 AI 모델을 사용할 계획이며, 53%는 사전 학습된 모델을 기반으로 한 커스텀 애플리케이션 개발을 계획하고 있다. 또한, 41%는 자사 데이터를 활용한 파인튜닝 모델 기반 애플리케이션을 구축할 예정이다.

이는 CAIO가 범용 모델 및 다양한 사전 학습 모델을 활용해, 조직 내 신속한 AI 도입과 맞춤형 기능 개발을 이끄는 역할을 맡고 있음을 보여준다. 이와 같은 전략은 효율성과 고성능을 동시에 확보하면서 데이터 보안까지 고려한 통합적 접근 방식으로 평가된다.

AWS 샤운 난디(Shaown Nandi) AGS 테크놀로지 디렉터는 “AI 시대에 있어 최고 CAIO의 역할은 필수불가결할 것”이라며, “조직이 생성AI 투자를 본격적으로 확대함에 따라, AI 리더들은 혁신과 실험 문화를 이끄는 조직 내 혁신의 설계자 역할을 맡게 될 것이다. 이 새로운 유형의 AI 리더십은 기업의 AI 역량을 끌어올리는 데 중요한 역할을 하며, 대규모 비즈니스 성과 창출을 위한 창의적인 전략을 수립하는 데 핵심적인 위치를 차지하게 될 것”이라고 말했다.