데이터 중심 경영이 확산되면서 기업은 방대한 데이터 처리와 분석 속도 향상 요구가 커지고 있다. 그러나 데이터 소스와 사용자 수 증가로 관리 복잡성이 높아지고, 인력 부족과 데이터 접근 지연, 거버넌스 미비 등으로 데이터 활용에 제약이 발생한다. 

이는 영업, 고객 서비스, 제품 개발 등 비즈니스 전반의 의사 결정과 대응 속도를 저하시킨다. 이에 따라 자동화 및 효율 강화를 위한 생성AI 도입이 필수 과제로 부상하고 있다.

데이터 코파일럿 기업 프로펜시(Prophecy)가 ‘생성AI가 데이터 팀에 미치는 영향(The impact of GenAI on data teams)’ 보고서를 발표했다.

이 보고서는 조사 기관 웨이크필드 리서치(Wakefield Research)에서 진행한 설문조사를 기반으로 작성됐다. 조사는 미국 내 연간 매출 최소 10억 달러 이상 기업의 데이터 및 분석 담당 임원 500명 대상으로 2024년 11월 22일부터 12월 3일까지 실시했다.

보고서에 따르면, 데이터 부서들은 생성AI를 빠르게 채택하고 있으며, 초기 도입 기업은 생산성에서 성과를 얻었다.

전체 조사 대상 데이터 팀 중 64%가 이미 생성AI를 사용하고 있으며, 모든 조직이 최소한 도입 계획을 보유하고 있는 것으로 나타났다. 특히 23%는 생성AI 사용이 완전히 확장된 상태라고 답했다. 

생성AI를 사용하는 데이터 팀 중 41%는 전체 데이터 생산성이 15%~30% 증가했다고 답했으며, 46%는 31%~50%까지 향상됐다고 보고했다. 평균적으로 25% 향상됐다. 이는 기업 내 다른 부서보다 데이터 팀에서 생성AI의 이점이 더 크게 나타날 수 있음을 시사한다.

생성AI를 가장 활발히 이용하는 분야는 자동 데이터 큐레이션(58%)이었으며, 대화형 분석(51%), 데이터 테스트 및 품질 관리(51%)가 뒤를 이었다.

이러한 성과에 기반해 경영진은 생성AI 채택을 적극 지지하고 있었다. 25%의 임원은 AI가 핵심 요소인 모든 프로젝트에 무조건 자금 지원을 약속했으며, 44%는 신중한 접근을 택하면서도 AI 투자 필요성을 인정하며 일정 수준의 가이드라인을 설정했다.

물론 생성AI 도입의 어려움도 있었다. 그 원인으로 응답자의 36%는 더 나은 데이터 거버넌스의 필요성을, 24%는 더 빠른 데이터 접근의 필요성을, 36%는 모든 생성AI 프로젝트에 대한 회사 차원의 검토 요구라고 했다.

인력 확보의 문제도 있었다. 67%의 조직이 100~1000개의 데이터 소스 보유하고 있으며, 60%의 조직은 100~1000명의 데이터 사용자를 지원한다. 이 모든 데이터를 정리하기 위해서는 숙련된 인재 채용과 교육이 필수적이다. 

하지만 절반 이상의 조직(53%)은 숙련된 데이터 엔지니어 채용이 어렵다고 답했으며, 50%는 신규 직원 온보딩 및 교육에 어려움이 있다고 했다. 53%는 데이터 수요 증가에 맞춰 팀 확장이 어렵다고 응답했다.

보고서는 글로벌 인재 부족 상황에서, 모든 기능을 자체 개발하기보다는 검증된 상용 생성AI 솔루션을 도입해 빠르게 배포하고 가치를 실현하는 것이 성공적인 전략이라고 강조했다.

생성AI는 이미 데이터 팀에 자리 잡았으며, 조직은 실질적인 가치를 얻고 있다. 향후 생성AI는 데이터 관리, 변환, 통합 등 데이터 운영 전반을 변화시킬 것이며 이는 피할 수 없는 구조적 변화다. 핵심은 생성AI의 가치를 극대화하면서 보안, 거버넌스, 신뢰성을 유지하는 것이다.