지능형 데이터 인프라 기업인 넷앱(NetApp)이 엔터프라이즈 AI 환경에 대한 ‘AI 이니셔티브의 책임감 있는 확장: 지능형 데이터 인프라의 중요한 역할’ 보고서를 발표했다.

이 보고서는 AI 성숙도 수준 따라서 발생하는 여러 과제와 비즈니스 이점을 밝히고 AI 및 생성AI 워크로드를 책임감 있게 확장하기 위한 노력에서 선도적인 조직이 채택한 성공적인 전략에 대한 통찰을 제공한다. 

보고서에 따르면 AI 이니셔티브의 최대 20%가 지능형 데이터 인프라 없이는 실패하는 것으로 나타났다. 이 보고서는 실행가능한 접근 방식을 집중 조명해 조직이 일반적인 위험을 피하도록 도움준다.

보고서는 AI에 대한 접근 방식의 수준을 기반으로  조직의 진행상황 평가를 위해 AI 성숙도를 AI 이머전츠(AI Emergents) 및 AI 파이어니어스(AI Pioneers)에서 AI 리더스(AI Leaders) 및 AI 마스터스(AI Masters) 모델로 분류했다.

지능형 데이터 인프라가 선결과제

AI 마스터스는 최소한의 준비로 기업 데이터에 쉽게 액세스할 수 있는 통합된 하이브리드 멀티 클라우드 환경을 설계하여 데이터 인프라를 최적화하지만 여전히 데이터 액세스 제한, 규정준수 제한, 불충분한 데이터 등의 실패를 경험한다. 반면, AI 이머전츠는 예산 제약, 모델 훈련을 위한 불충분한 데이터, 데이터 액세스에 대한 비즈니스 제한 등의 어려움을 겪는다.

조사 결과 조직의 AI 성숙도 수준과 인프라 구축 정도가 AI 프로젝트의 성공과 비즈니스 결과를 좌우하는 것으로 나타났다. AI 여정을 막 시작한 조직들은 서로 다른 데이터 아키텍처 또는 통합 아키텍처 계획을 가지고 있지만 AI 리더스와 마스터스는 이미 통합된 비전을 실행 중이며 그 결과 실패가 더 적다.

데이터 접근이 편한 데이터 인프라 유연성 중요

AI 마스터스는 구조화된 데이터와 비구조화된 데이터를 즉시 사용할 수 있고, 현재 데이터 아키텍처가 프라이빗 데이터를 AI 클라우드 서비스와 원활하게 통합할 수 있다고 보고했다. 반면 AI 이머전츠는 이러한 능력이 상대적으로 부족한 것으로 나타났다.

AI 마스터스는 AI 이니셔티브를 위한 데이터 아키텍처와 인프라가 최소한의 준비만으로도 기업 데이터세트에 쉽게 접근해야 한다는 것을 인지하고 있다.

리투 죠티(Ritu Jyoti) IDC의 글로벌 AI 리서치 리드이자 세계 AI 및 자동화 리서치 실무그룹 부사장은 "AI 이니셔티브의 설계 및 계획 프로세스 중에 이루어진 인프라 결정은 아키텍처 유연성을 고려해야 한다."라며, "유연하고 통합된 스토리지 접근 방식, 공통 제어면, MLOps 통합을 통한 데이터 소비 원활화를 위한 관리 도구 등이 필요하다."고 강조했다.

효과적인 데이터 거버넌스 및 보안 프로세스 구축 필요

AI 이머전츠의 발전 부진은 종종 표준화된 거버넌스 정책 및 절차의 부재 때문이다. AI 마스터스의 38%가 모든 AI 프로젝트에서 완료하고 표준화한 반면, AI 이머전츠는 8%에 불과했다. 또한 AI 마스터스의 51%가 독립 그룹에 의해 엄격하게 시행되는 표준화된 정책을 마련하고 있는 반면 AI 이머전츠는 3%만이 그렇다고 보고했다.

효과적인 데이터 거버넌스와 보안은 AI 이니셔티브에서 조직 성숙도를 나타내는 중요한 지표이며 책임감 있고 안전한 데이터 관리는 기업의 핵심 과제로 남아 있다. AI 이해관계자들이 개발 가속화를 위해 보안 프로세스를 단축하려는 경향이 있기 때문이다.

AI 이니셔티브에서 성공적인 조직들의 피드백은 거버넌스와 보안이 단순한 비용 센터가 아니라 혁신의 중요한 조력 요소임을 보여준다.

보안, 데이터 주권 및 규정준수를 우선시해 조직들은 AI 및 생성형 AI 이니셔티브의 위험을 완화하고 데이터 엔지니어 및 과학자들이 효율성과 생산성 극대화에 집중할 수 있도록 보장할 수 있다.

책임감 있는 AI 확장은 효율적인 자원활용에

AI 마스터스의 43%는 모든 AI 프로젝트에서 자원 효율성 평가를 위한 척도를 명확히 정의한 반면, AI 이머전츠는 9%만이 그렇게 했다. 전체 응답자의 63%는 AI에 최적화된 스토리지를 위해 대대적인 개선 또는 전면적인 점검이 필요하다고 보고했으며, 14%만이 개선이 불필요하다고 응답했다.

AI 워크플로우가 거의 모든 산업 분야의 핵심 요소로 자리잡아 가면서, 기업들은 이러한 워크플로우가 컴퓨팅 및 스토리지 인프라, 데이터 및 에너지 자원, 관련 비용 등에 어떠한 영향을 미치는지 분석해야 할 필요성이 커지고 있다.

AI 성숙도를 평가하는 데 있어 AI 모델 생성 시 자원 사용 효율성을 측정할 수 있는 지표를 정의하고 실행하는 것은 매우 중요하다.

존시 스테판손(Jonsi Stefansson)넷앱 CTO 는 "이번 보고서에서는 기업의 책임 있는 AI 확장과 성공률 제고를 위해 지능형 데이터 인프라가 필요함을 확인해준다."라며, "지능형 데이터 인프라 구축 시 기업은 통합 데이터 관리로 데이터 액세스 유연성을 확보하고, 데이터 보안, 보호, 거버넌스와 성능, 비용, 지속가능성을 최적화하는 적응형 운영이 가능하다."고 말했다.