수년간 인공지능(AI) 도입에 투자하고 인재 채용과 시범 사업을 시행했던 대다수 기업들은 이제 AI 기술을 통한 가시적 수익을 추구하고 있다. 하지만 AI 기술의 가치 실현은 쉽지 않은 것으로 나타났다.

보스턴 컨설팅 그룹(BCG)이 발표한 ‘AI의 가치는 어디에 있는가’ 보고서에 따르면, 전 산업에 걸쳐 AI 프로그램이 광범위하게 도입됐음에도 불구하고 개념 검증을 넘어 가시적 성과를 내는 데 필요한 역량을 갖춘 기업은 26%에 불과한 것으로 드러났다.

이번 보고서는 아시아와 유럽, 북미의 59개국 주요 산업에서 활동하는 1000명의 최고경영진(CxO)과 고위 임원을 대상으로 한 설문조사를 바탕으로 작성됐다. 설문 참여자들은 30가지 핵심 기업 역량에서 자사의 AI 성숙도를 평가했다.

전사적으로 첨단 AI 역량을 보유하고 꾸준히 상당한 가치를 창출하는 기업은 4%에 불과했다. AI 전략을 수립하고 고도화된 역량을 구축해 실질적인 성과를 내기 시작한 기업은 22%였으며, BCG는 이들을 선도 기업으로 분류했다. 74%의 기업은 아직 AI 활용에서 가시적인 가치를 보여주지 못하고 있다.

이 보고서의 공동 저자이자 BCG의 수석 파트너인 니콜라스 드 벨퐁드(Nicolas de Bellefonds)는 “AI 선도 기업들은 더욱 야심찬 목표를 구축하고 있다. 이들은 광범위한 생산성 향상보다는 핵심 기능 혁신에 집중하며 비용과 매출에서 의미 있는 성과를 목표로 하고 있다.”고 설명했다.

AI 선도 기업의 6대 특징

지난 3년간 AI 선도 기업들은 매출 성장률 1.5배, 주주 수익률 1.6배, 투자 자본 수익률은 1.4배 더 높은 성과를 거뒀다. 특허 출원과 직원 만족도 등 비재무적 영역에서도 우수한 성과를 보였다.

보고서는 AI 선도 기업들의 차별화된 특징을 6가지로 정리했다.

① 지원 기능뿐만 아니라 핵심 업무 프로세스에도 집중한다. 실제로 AI의 가장 큰 가치는 핵심 업무 프로세스에서 발생한다. 선도 기업의 62%가 이렇게 답했다. 핵심 업무와 지원 기능 모두에서 AI를 활용하는 것이 이들 기업의 경쟁우위로 이어지고 있다.

② 더 야심찬 목표를 세운다. 단순한 생산성 증진을 넘어 AI 투자와 인력 역량 강화에 힘쓰며, 디지털 분야 투자와 인력 배치, AI 솔루션 확장이 타 기업의 2배에 달한다. 2027년까지 AI 기반 매출 성장이 60% 더 높고 비용도 50% 더 절감될 것으로 예상된다.

③ 비용과 수익 창출 노력 모두에 AI를 접목한다. 선도 기업의 45%가 전사적으로 비용 혁신에 AI를 도입한 반면 타 기업은 10%에 불과했다. AI 기반 수익 창출에도 선도 기업의 1/3 이상이 주력하는 데 비해 타 기업은 1/4 수준에 머물렀다.

④ AI 가치를 극대화하기 위해 소수의 우선순위가 높은 기회에 전략적으로 투자한다. AI 도입 데이터에 따르면 이들은 후발 기업의 절반 정도의 기회만을 추구한다. 가장 유망한 사업에 집중해 2024년 투자수익률이 타 기업의 2배 이상이 될 것으로 전망하고 있다. AI 제품·서비스의 전사적 확장도 2배 이상 성공적으로 이뤄냈다.

⑤ 기술과 알고리듬보다 인력과 프로세스에 주력한다. 자원의 10%는 알고리듬, 20%는 기술·데이터에 투자하며, 인력·프로세스에 70%의 자원을 투입하는 원칙을 따른다.

⑥ 생성AI에 재빠르게 집중했다. 예측AI와 생성AI를 모두 활용하며, 콘텐츠 생성과 정성적 추론, 다른 시스템 조율을 가능하게 하는 생성AI 도입이 더 빨랐다.

AI 선도 기업 비중이 가장 높은 업종은 약 15년 전 디지털 혁신을 먼저 경험한 핀테크(49%), 소프트웨어(46%), 은행(35%) 등으로 탄탄한 디지털 역량을 갖추고 있다.

AI 가치의 절반 이상은 핵심 비즈니스 기능에서 파생

보고서의 공동 저자이자 BCG의 수석 파트너인 마이클 그레베(Michael Grebe)는 “일반적인 인식과 달리 AI의 진정한 잠재력은 지원 기능을 훨씬 넘어선다. 실제로 AI 가치의 62%가 핵심 사업 기능에서 발생해 선도 기업들이 상당한 경쟁우위를 확보할 수 있다.”고 분석했다.

조사 대상 기업들은 AI와 생성AI의 가치 중 절반 이상을 운영(23%), 영업·마케팅(20%), R&D(13%) 등 핵심 사업 기능에서 창출하고 있다. 지원 기능은 38%의 가치를 제공하며 고객 서비스(12%), IT(7%), 조달(7%) 순으로 나타났다.

산업별 AI 활용 현황

BCG 조사에 따르면 AI를 통한 가치 창출은 산업별로 상당한 차이를 보였다.

영업·마케팅은 소프트웨어(31%), 여행·관광(31%), 미디어(26%), 통신(25%) 등에서 AI 가치의 주요 원천으로 부상하고 있다.

R&D 분야에서는 바이오 제약(27%), 의료 기술(19%), 자동차(29%) 등 연구 집약적 산업에서 AI가 큰 영향을 미치고 있다.

보험(24%)과 은행(18%)은 고객 서비스에서 상당한 가치를 창출했다.

소비재·유통 기업들은 AI 기반 개인화를 통해 각각 19%와 22%의 성과를 거뒀다.

70-20-10 원칙

조사 결과 AI 도입 과정에서 기업들이 직면하는 어려움의 약 70%는 인력·프로세스 관련 문제, 20%는 기술적 문제, 10%는 AI 알고리듬 문제인 것으로 나타났다. 하지만 많은 후발 기업들이 인적 요소보다 기술적 문제 해결에 치중하는 실수를 범하고 있다.

AI 선도 기업과 타 기업의 역량을 비교 분석한 결과, AI 확장의 핵심 요소는 주로 변화 관리와 제품 개발, 업무 최적화, AI 인재, 거버넌스 등 인력·프로세스 관련 역량이었다. 주요 기술 역량으로는 데이터 품질·관리, 알고리듬 우선순위로는 AI 모델 품질·성능이 꼽혔다.

보고서의 공동 저자이자 BCG의 파트너인 어맨다 루터(Amanda Luther)는 “기업의 3/4이 아직 AI에서 가치를 창출하지 못하고 있다. 결단력 있는 행동이 없다면 뒤처질 위험이 있다. 이번 연구는 기업이 디지털·AI 혁신을 추진할 때 노력과 자원의 2/3를 인력 관련 역량에, 나머지를 기술과 알고리듬에 투입해야 한다는 점을 재확인한다.”고 강조했다.