전 세계 기업들 대부분이 AI를 이용하고 있지만, 대규모로 적용하는 데는 아직 장애물이 남아 있다. 주된 요인으로 레거시 데이터 아키텍처, GPU 가용성, 지역별 격차등이 있으며, 이는 전 세계의 AI 수요 증가 속도가 AI 프로젝트 수행에 필요한 AI 가속기와 GPU 공급 속도를 앞서고 있음을 시사한다.

따라서, 많은 조직들이 하이퍼스케일 클라우드 제공업체, 신흥 AI 및 GPU 클라우드 시장들이 공급하는 서비스형 AI 인프라 제품들을 사용해 수요와 공〮급의 간격을 해결하고 자신들의 생성AI 프로젝트를 진행하고 있다.

AI 네이티브 데이터 플랫폼 회사 웨카(WEKA)와 S&P 글로벌 마켓 인텔리전스(Global Market Intelligence)가 전 세계 1500명 이상의 AI 종사자와 의사 결정권자들을 대상으로 AI 채택과 이용에 영향을 미치는 트렌드가 수록된 ‘제2차 연례 전 세계 AI 동향 보고서’를 12일 발표했다.

AI 기술, 제품과 솔루션을 구축하는 기업, 연구 조직, AI 제공업체들의 AI/ML 의사 결정권자/인플루언서 1519명을 대상으로 2024년 2분기에 실시했으며, 항공우주 및 방위, 자동차, 에너지/석유 및 가스, 금융, 정부, 의료, 교육, IT 및 서비스, 생명과학, 제조, 미디어/엔터테인먼트, 통신, 운송 및 물류 등 다양한 산업 분야의 파일럿 및 생산 환경에서 AI/ML 프로젝트를 수행하는 응답자들에게 우선순위를 부여했다.

보고서의 주요 내용으로 ▲제품 개선 및 실적 제고로 AI 애플리케이션 보급 증가 ▲AI 애플리케이션 시장 생성AI가 주도 ▲레거시 데이터 아키텍처가 AI 프로젝트 실패 원인 ▲GPU 가용성이 인프라 좌우 ▲AI 도입에 우려가 있으나 늦추지는 않음 등이 있다.

조사결과에 따르면, 북미 지역이 기업용 AI 도입을 주도하고 있으며, 북미 응답자의 48%가 AI가 널리 폭넓게 이용되고 있다고 답했는데 이는 APAC(26%)과 EMEA(25%)에 비해 높은 수치이다.

응답자들은 제품 개선과 사업 실적 제고가 AI 투자를 견인하는 요인으로 응답했다. 세부적으로 제품 또는 서비스 품질을 개선(42%), 매출 성장 목표 설정(39%), 직원들의 생산성 향상(40%), IT 운영 효율 개선(41%), 전체적인 혁신 속도 가속(39%) 등을 꼽았다.

한편, 88%의 조직들이 생성AI를 활용하고 있다. 이는 예측 모델(61%), 분류(51%), 전문가 시스템(39%), 로보틱스(30%)과 같은 다른 AI 애플리케이션을 훨씬 앞지른 것이다.

또한 24%의 조직들이 이미 생성AI를 조직 전반에 전개된 통합 기능으로 보고 있다고 답했으며, 37%는 생성AI를 만들고 있지만 아직 규모가 확대되지 않았다고 답했다. 또한 11%는 생성AI에 전혀 투자하지 않고 있다고 응답했다.

평균적으로 조직들은 시범 단계에 있는 AI 프로젝트는 10개, 제한적으로 전개되는 프로젝트는 16개인 반면 대규모로 전개되는 프로젝트는 6개였으며, AI/ML 전개에 대해 가장 자주 언급되는 기술적 억제 요인은 스토리지 및 데이터 관리(35%)로, 컴퓨팅(26%), 보안(23%), 네트워킹(15%)보다 높았다. 이에 대해 보고서는 취약한 데이터 기반이 다수 조직들의 AI 프로젝트를 방해한다고 전했다.

한편, 10개 조직들 중 4개가 AI 가속기 확보 여부가 자신들의 인프라 의사 결정의 주요 고려 사항이라고 답했으며, 30%는 AI 모델을 생산 단계로 전환하는 데 있어 가장 심각한 3가지 문제 중 하나로 GPU 가용성을 꼽았다.

GPU를 활용하는 주요 채널로, 응답자들은 하이퍼스케일 퍼블릭 클라우드(46%)를 활용하고 있으며, 모델 훈련을 위해 GPU 클라우드 서비스 제공업체(32%)를 활용하는 경우가 점점 더 많아지고 있다고 답했다.

또한, 조직들의 거의 3분의 2(64%)가 AI/ML 프로젝트들이 에너지 사용과 환경에 미치는 영향에 대해 우려한다고 답했으며, 25%는 매우 우려하고 있다고 답했다.

특히 42%의 조직들이 지난 12개월 동안 자신들의 AI 프로젝트들의 잠재적인 환경 영향을 해결하기 위해 에너지 효율적인 IT 하드웨어/시스템에 투자했다고 답했다. 이들 중 56%는 이러한 조치가 ‘높은’ 또는 ‘매우 높은’ 효과를 봤다고 응답했다.

S&P 글로벌 마켓 인텔리전스 존 에버트(John Abbott) 수석 리서치 애널리스트는"우리의 2024년 AI 동향 조사에서 가장 눈에 띄는 사실 중 하나는 2023년 초 챗GPT 3가 공개되고 최초의 생성형 AI 모델이 출시된 이후 발생했던 놀라운 변화의 속도이다."라며 "이제 우리는 더 높은 수준의 AI 성숙도를 가진 사람들과 매출 및 운영 효율의 제고, 혁신 제품의 출시 시간 단축이 형성하는 상관관계를 볼 수 있다."라고 말했다.