오픈AI의 챗GPT로 촉발된 생성AI 기술의 확산은 기업들에게 생각 이상으로 큰 영향을 끼치고 있다. 시스코가 발표한 ‘AI 준비지수’ 보고서에 의하면 국내 기업들이 AI 준비를 위해 다양한 선제적 조치를 취하고 있으며, 최고 경영진과 IT 경영진이 AI에 상당히 집중하고 있다. 지난 6개월 사이 조직의 AI 기술 도입이 시급해졌다고 답한 응답자 비율이 97%에 달했다.

AI에 대한 환각이나 악용에 대한 우려도 논란이 되고 있지만 기업에서는 대체로 AI 기술은 고객이 원하는 기술이며 대세이기에 기업은 미래 비즈니스의 준비이자 생존이라 여기고 도입을 서두르고 있다.

이러한 AI 도입 증가의 궤적은 클라우드와 함께 하고 있다. AI 기술은 방대한 데이터와 강력한 컴퓨팅 성능을 필요로 하므로 클라우드는 이러한 요구를 충족시킬 수 있는 최적의 플랫폼이기 때문이다. 클라우드는 수년전부터 전반적인 산업에서 도입이 가속되고 있는 상황에서 한국 IDC는 2023년 국내 퍼블릭 클라우드 시장이 전년대비 20.8% 성장을 전망했다. 여기에 AI 도입 가속화는 클라우드 시장 확대에 촉매제 역할을 할 것으로 예상된다.

하지만 신기술이 득세하는 만큼 기업에서의 성공적인 활용을 자신하기란 쉽지 않다. AI가 대세이긴 하지만 초기 단계인 만큼 기술과 비용 투자, 비즈니스 기회에 대한 선택의 결과는 기업의 몫이기 때문이다. 때문에 현 시점에서 기업 단독으로는 경험과 기술과 인력 부족으로 인해 AI 기술과 기업에 맞는 인프라 환경 도입을 결정하기가 어려운 상황이다.

이에 클라우드 서비스 기업(CSP, MSP)들이 AI 서비스를 효과적으로 도입할 수 있는 다양한 클라우드 서비스를 내놓고 있는 가운데 클라우드 관리 전문기업 ‘디딤365’의 행보가 남다르다.

디딤365는 2005년 창립이래 오랜 기간 제조 공공 금융 유통, 리테일 등 다양한 분야에 클라우드 여정의 신뢰 높은 파트너로 실력을 쌓아온 클라우드 전문 MSP 기업이다. AI 기술과 서비스를 도입하려는 기업들에게 편의성과 비용, 그리고 비즈니스 기회까지 지원하는 AI 서비스에 최적화된 클라우드 매니지드 서비스를 제공하고 있다.

클라우드 서비스를 설계하고 개발 및 서비스의 모든 단계에 고객을 중심에 둔 디딤365의 장민호 대표를 만나 기업들의 MSP 현황 및 기업들의 AI 기술 도입에 대한 고민과 그 해결 방안, 디딤365가 야심차게 제공하고 있는 AI 도입 성공을 위한 기업 맞춤형 클라우드 매니지드 서비스 ‘디딤 AI MSP’ 활용 방안에 대해 들어봤다.

AI 등 신기술로 급변하고 다변화되는 고객 요구에 적극 대응해야

최근 생성AI 등 신기술 등으로 고객 요구 사항이 빠르게 다변화 되고 있는 상황에 대해 장대표는 “클라우드 네이티브, MSA(MicroService Architecture), SaaS(Software as a Service)는 물론 AI/ML이나 데이터 분석처럼 신기술과 서비스가 클라우드를 기반으로 끊임없이 등장하고 있어 클라우드는 이제 기본 인프라 환경이 됐다. 때문에 고객들은 인프라가 클라우드 환경으로 전환된 뒤 성능 및 비용에 대한 최적화에 더 관심이 높다. 이에 빅데이터와 AI 기술 등을 도입해 생산성 향상과 새로운 가치를 창출하는 것을 더 중요시하고 있다.”라며 말했다.

그는 클라우드 매니지드 서비스 기업(Managed Service Provider, MSP)은 고객에게 민첩성과 확장성을 제공할 수 있어야 하며, 특히 고객이 보유한 데이터 및 비즈니스 노하우를 활용해 디지털 전환을 신속히 달성하고, 더 빠르게 고객이 원하는 서비스 개발이 가능한 방법을 제공할 수 있어야 한다고 조언한다.

클라우드 MSP에 기대하는 것

MSP는 기본적으로 클라우드 도입을 위한 컨설팅부터 마이그레이션, 운영, 모니터링까지 클라우드 운영 환경 전반을 관리하는 사업자로 고객의 클라우드 전환에 있어서 중요한 역할을 수행하고 있다.

장민호 대표는 최근 공공 및 기업의 디지털 전환 가속화로 IT 인프라 환경이 클라우드로 전환되며 최신 기술과 서비스를 도입함에 따라 클라우드 도입 및 운영에 대한 복잡도가 증가하고 있는 상황에 대해 “MSP는 단순한 클라우드 운영을 넘어 고객이 도입하려는 기술에 대한 컨설팅, 설계 및 개발까지 폭 넓은 기술지원이 가능해야 한다. 특히 클라우드 환경은 개발과 운영의 분리보다 통합 운영이 더 생산적이므로 데브옵스(DevOps) 등 소프트웨어 개발과 운영을 통합해 효율성, 협력, 속도, 안정성을 개선하는 개발 및 운영 방법론 도입이 필요하다.”고 말했다.

오랜 기간 다양한 산업에서 MSP 서비스를 해온 디딤365인 만큼 기업들의 요구 사항 체감도가 높다. 대다수의 고객들이 AI/ML 기술이 대부분 클라우드 환경에서 운영되거나 클라우드 공급 기업의 솔루션을 기반으로 하고 있어서 이에 대한 기술 지원도 MSP에 기대하고 있는 상황이라고 한다. 결국 MSP는 빅데이터, AI 등 고객이 보유한 데이터 활용을 지원할 수 있는 데이터 전문기업으로의 역량도 키워야 하는 상황이다.

AI 도입은 선택이 아닌 필수

전 산업에 엄청난 파장을 일으킨 챗GPT로 촉발된 LLM(Large Language Model) 기반의 ‘생성AI’는 기존 기술은 사업 분야나 시장 영역에 따라 선별적으로 영향을 주었지만, AI 기술의 경우 산업 분야를 가리지 않는다는 장대표는 “최근 국내에서도 자연어처리, 컴퓨터비전, 머신러닝 등의 AI 기술을 도입하고 있는데, 기업의 제품과 서비스 개발 외에도 마케팅과 판매, 고객 대응의 효율성을 높이고 있다. 특히 클라우드 컴퓨팅을 적극 활용할수록 더 높은 비즈니스 성과를 가져올 수 있다.”라며, “

AI 도입을 성공적으로 진행한 기업과 그렇지 않은 기업간 격차가 크게 벌어질 것으로 예상되는 가운데 기업 비즈니스에서 AI 기술 기반의 디지털 전환은 선택이 아니라 필수가 되었다.”고 강조한다.

MSP의 과제, 신기술 적응력·인력부족·SI와의 경쟁

클라우드가 인프라가 되고 있는 만큼 MSP의 역할도 커졌고 그만큼 고객들은 MSP에 기대하는 바가 크다. 하지만 MSP가 그 모든 것을 해결해 줄 수는 없는 현실이다. 빠르게 등장하는 기술을 체득하고 이를 고객 서비스로 연결하는 데는 쉽지 않다.

MSP로서의 겪는 어려움에 대해 장대표는 “클라우드 기술 환경은 급격하게 변화하고 있지만 대부분의 MSP 기업이 IaaS 수준에서의 인프라 운영만 가능한 수준으로 신기술 적응력이 부족한 상황이다. 클라우드 네이티브 및 MSA 기반 서비스 개발 기술 지원은 물론 AI/ML 도입 기술 지원 역량도 부족한 상황이다. 특히 최근 서비스 개발은 데브옵스와 같이 개발과 운영의 경계가 허물어지는 추세에 있어 운영 외에도 개발 역량이 요구되고 있다.”라며, “AI를 도입하려는 기업은 데이터 처리, ML 모델 구축, 모델 서빙 등 AI 서비스에 대한 워크플로 구축 지원이 필요한 데 대부분의 MSP는 충분한 준비를 갖추지 못하고 있다.”라며 안타까워 한다.

그리고 전문 인력 부족도 큰 과제라고 한다. 고용노동부가 지난 9월 31일 발표한 조사보고서에 따르면 향후 5년간(’23~’27) 인공지능(AI)분야에서 1만2800명이 부족하다. 특히 MSP 기업은 IaaS 기반 운영 인력 위주로 구성돼 있어 MSA나 AI/ML 등 신기술 분야 인력 확충은 쉽지 않다.

여기에 SI 기업들과 경쟁도 만만찮다. 서비스가 컨설팅, 개발, 구축, 운영 전반으로 확대되다 보니 기존 SI 기업들이 MSP 영역까지 사업 확대를 추진하고 있어, MSP 기업의 경쟁은 더욱 치열해지고 컨설팅, 개발, 운영 전반에 대한 역량 확보가 절실해졌다.

AI 도입 시 필요한 파트너

다수의 기업들이 AI를 비즈니스에 도입하고 있지만 기대만큼 효과를 보지 못하고 있다며 장대표는 말한다. 기업들의 AI 도입 실패에 대해 “AI를 비즈니스에 도입하려면 AI 모델확보 뿐만 아니라 데이터 구축, 서비스 개발 및 운영 등 복합적인 역량이 필요하다. AI를 도입해 해결하려는 명확한 문제 정의와 성공 기준 수립이 필요한데 막연한 기대감으로는 실패하기 쉽다.”고 단언한다.

AI를 도입해 특정 문제를 해결하더라도 관련 기술이 빠르게 발전하고 있어 기 구축한 AI 서비스에 대해 대한 지속적인 업데이트가 필요한 데대체로 일부 파편화된 상태로 AI 솔루션을 구축하는 경우가 많아 개발과 관리에 드는 자원 및 비용이 증가하고 있다고 또다른 실패의 원인을 지적한다.

기업이 AI 도입에 성공하려면 “다양한 경험을 축적하고 고객 비즈니스를 충분히 이해하고 문제를 정의하고, 데이터 구축·AI 모델 개발·인프라 설계·구축·운영 및 관제 전반이 가능한 AI MSP 파트너가 필요하다. 기업은 실력을 갖춘 파트너의 AI MSP를 활용해 각종 인프라 구축에 대한 부담에서 벗어나 본연의 비즈니스에만 집중할 수 있다.”고 힘주어 말한다.

디딤365의 AI MSP, AI 도입에 운영까지 전 단계 원스톱 지원

디딤365는 오랜 기간 클라우드 매지니드 서비스를 제공하면서 쌓인 노하우와 AI 신기술 지원을 결합한 ‘디딤 AI MSP’로 기업의 성공적인 AI 도입 지원에 적극 나서고 있다. 이 서비스는 기업의 성공적인 AI 도입을 위해 해당 비즈니스 도메인의 이해를 기반으로 문제 정의, 데이터 구축, 모델 배포, 모니터링, 운영 등 AI 서비스 구축 전 과정을 원스톱으로 지원한다.

장대표는 4단계로 제공하는 AI MSP 서비스에 대해 “AI 도입 컨설팅 단계에서는 AI 도입 및 전환을 위한 최적의 방법과 전략과 고객 비즈니스 요구에 적합한 생성AI 및 분석 AI 도입이 가능하도록 단계별 방법과 프로세스를 제시한다. 데이터 구축 단계에서는 AI 도입 시 가장 많은 시간이 소요되고 중요한 단계로 디딤365는 고객이 보유하고 있는 다양한 데이터에 대한 수집, 가공, 저장을 위한 데이터 구축 솔루션 제공 및 기술 지원을 제공한다. 대용량 데이터 구축을 위한 데이터레이크 구축, ETL 프로세스 구축, 데이터 분석 및 시각화 툴을” 제공한다고 한다.

AI 서비스 개발 단계에서는 생성AI 및 분석형 AI 모델 별 개발, 배포 및 운영 전과정을 위한 도구와 서비스를 제공한다. 최적의 ML 모델 구축을 위한 ML 파이프라인 구성과 모델 서빙 자동화 등 MLOps 구축 및 기술 지원, 챗GPT, 하이퍼클로버X를 포함하려는 고객 요구에 맞는 생성AI 도입 프로세스를 제안한다. 운영 및 모니터링 단계에서는 AI 적용 서비스에 대한 안정적인 운영과 지속적인 모니터링 통한 업데이트 지원, AI 서비스 인프라 운영이 고려 필요한 비용 최적화 방안을 제시한다.

다양한 경험과 노하우로 전문 컨설팅 및 안정적 기술 지원

디딤365가 여러 기업과 조직으로 선택을 받는 이유에 대해 장대표는 “공공기관 및 다수의 기업 대상의 SaaS 및 MSA 관련 다양한 경험과 노하우로 다져진 기술력으로 AI 도입을 고려하는 기업과 조직에 MSA 기반 서비스 개발 시 전문 컨설팅 및 안정적인 기술 지원이 첫 번째 차별점이다.”고 한다.

여기에 공공기관의 SaaS 서비스 제공시 필요한 클라우드 서비스 보안인증(CSAP) 표준등급 기준 13개 분야 79개 통제항목을 충족도 디딤365는 다수의 CSAP 컨설팅 경험으로 커버하고 있다. MSP로 인증을 위한 증적자료 외에도 정보시스템 취약점 진단 및 조치를 위해 전담 컨설턴트와 엔지니어, 전문 솔루션을 체계적으로 지원하고 있다고 목소리를 높인다.

장 대표는 “디딤365는 NIPA의 고성능 컴퓨팅 지원 사업, 디지털플랫폼정부 사업, NIA의 지능정보산업 인프라 조성 사업 등 굵직한 정부 사업을 수주해 진행해 AI 분야 클라우드 컴퓨팅 서비스에 대한 노하우를 충분히 검증 받았다.”라며, “최근에는 하이퍼클로버X MSP 파트너로도 참여해 LLM 기반의 AI 챗봇 서비스 및 파인 튜닝과 RAG(Retrieval-Augmented Generation)를 적용하여 지식 관리 시스템을 구축한 경험도 갖추고 있다. 이 기술은 AI 환각문제 해결에도 필요한 기술이다.”라며 AI 클라우드 서비스 제공에 최적화 되었음을 자신한다.

기업 맞춤형 AI 도입 방법론 제시로 비즈니스 성공 파트너 될 것

시장 확대 전략에 대해 장대표는 “업무 효율성을 높이려는 서비스, 제조 분야 기업과 AI를 활용해 새로운 서비스를 개발하려는 교육, 헬스케어, 유통 분야 기업 중심으로 고객을 확대해갈 방침이다. 기업별 비즈니스 목표에 따라 AI 도입 필요성이 각기 다르므로 고객 요구에 맞는 최적의 AI 도입 방법론을 제시해 고객 비즈니스를 성공으로 이끄는 파트너가 되겠다.”고 이야기한다.

장 대표는 특히 교육 부문에서 AI 디지털교과서가 2025년부터 도입됨에 따라 디지털교과서 구축에 클라우드 전환 및 AI 도입이 필요한 상황이다. 현재 다수의 출판사와 CSAP 인증 컨설팅을 진행중이며, 주요 생성AI 기반으로 교육분야에서의 AI MSP 고객을 빠르게 확보해 갈 계획이라고 한다.

기업의 AI 도입과 LLM 모델 도입은 쉽지 않은 과정이다. 이를 위해 장대표는 “기업이 쉽게 업무에 LLM 모델을 도입할 수 있게 SaaS 형태의 솔루션도 제공할 것이다. 개별 기업이 별도 솔루션 구축 없이 보유하고 있는 주요 지식 문서를 온라인으로 업로드하면 챗봇 등 LLM 서비스를 사용할 수 있게 하는 서비스다. 중소기업의 경우 부담 없이 LLM 모델을 사용할 수 있을 것이다. 분석형 AI 도입이 필요한 기업에는 대용량 데이터의 수집, 변환, 적재를 위한 솔루션을 제공하고 모델 학습 및 배포를 쉽게 할 수 있는 MLOps 인프라를 제공해 빠른 AI 전환을 지원할 예정”이라고 한다.

디딤365는 철저히 고객 중심 서비스를 지향하기에 고객의 비즈니스 향상에 필요한 다양한 서비스를 계획하고 있다. 실시간 캠페인 솔루션을 활용해 개인화 마케팅이 필요한 고객을 대상으로 CSaaS(Campaign Solution-as-a-Service) 형태의 솔루션 공급과 기존 디딤365가 제공하는 CMP(Cloud Managed Platform)에 생성AI 기술을 접목해 24시간 고객 대응 서비스 고도화를 추진하면서 고객 문의 및 요청을 분석하는 최적의 매니지드 서비스를 제공할 방침이다. 고객 인프라 사용 패턴을 AI로 분석해서 필요 시 사전에 인프라를 유연하게 조절해 비용 최적화를 지원하는 서비스이다.

장대표는 AI 시대 고객을 위한 디딤365의 지향점은 “AI 시대 고객들이 가장 효율적인 클라우드 컴퓨팅을 활용할 수 있도록 모든 단계에 실력과 신뢰로 고객의 비즈니스 성공 파트너”가 되는 것이라고 힘주어 말한다.