AI의 대규모 확산으로 기업들은 다양한 환경에서 생성AI 및 머신러닝 모델을 운영하고 있다. 그러나 클라우드, 온프레미스, 하이브리드 등 환경마다 아키텍처가 달라 일관된 배포와 이식성이 어렵다는 점이 업계 공통의 문제로 지적돼 왔다. 리눅스 재단의 ‘소버린 AI(Sovereign AI) 연구’에 따르면, 전 세계 기업의 82%가 맞춤형 AI 솔루션을 구축하고 있으며, 58%가 쿠버네티스를 기반으로 워크로드를 실행하고 있다.

동시에 90%의 기업이 오픈소스를 AI 전략의 핵심 요소로 인식하고 있지만, 플랫폼 간 단편화와 비효율성은 여전히 생산성을 저해하고 있다. 이런 상황에서 CNCF(Cloud Native Computing Foundation)는 AI 인프라의 표준화를 위한 새로운 접근을 제시하며 클라우드 네이티브 생태계의 발전을 가속화하고 있다.

‘인증된 쿠버네티스 AI 적합성 프로그램’의 출범과 목표

CNCF는 KubeCon + CloudNativeCon North America 행사에서 ‘인증된 쿠버네티스 AI 적합성 프로그램(Certified Kubernetes AI Conformance Program)’을 공식 발표했다. 이 프로그램은 쿠버네티스에서 AI 및 머신러닝 워크로드를 안정적으로 실행하기 위한 최소한의 기능과 구성 요소를 정의하고, 다양한 플랫폼 간 상호 운용성을 검증하는 것이 목적이다.

해당 프로그램은 6월 일본 행사에서 베타 버전으로 처음 공개된 이후, v1.0을 통해 초기 참여자 인증을 완료했고 내년 v2.0 로드맵을 추진 중이다. CNCF는 기존 ‘쿠버네티스 적합성 인증 프로그램’이 100개 이상의 배포판과 플랫폼에서 표준을 확립한 경험을 바탕으로, 이를 AI 인프라로 확장하는 전략을 채택했다.

개방형 표준과 커뮤니티 중심의 접근

이번 프로그램은 쿠버네티스의 기본 원칙인 개방형 표준 API와 인터페이스를 그대로 계승했다. CNCF는 커뮤니티 주도로 명확한 표준을 설정하고, 테스트 제품군을 통해 규정 준수를 검증하며, 기업·클라우드 사업자·오픈소스 기여자 간 합의를 도출하는 방식으로 진행하고 있다. CTO 크리스 아니스치크(Chris Aniszczyk)는 “AI가 멀티클라우드 환경에서 운영되는 만큼 예측 가능하고 신뢰할 수 있는 인프라 표준이 필수”라며 “이 프로그램은 AI 워크로드가 어디서 실행되든 일관된 동작을 보장할 것”이라고 강조했다.

아카마이(Akamai), AWS, 브로드컴(Broadcom), 코어위브(CoreWeave), 구글 클라우드(Google Cloud), 마이크로소프트(Microsoft), 오라클(Oracle), 레드햇(Red Hat), 자이언트 스웜(Giant Swarm), 시데로 랩스(Sidero Labs) 등 주요 클라우드 및 인프라 기업들이 본 프로그램을 적극 지지하고 있다.

AWS의 에스와르 발라(Eswar Bala) 디렉터는 “AI 워크로드를 프로덕션으로 이전하는 기업들에게 일관성과 검증된 인프라를 제공할 수 있는 기반이 마련됐다”고 평가했다. 브로드컴의 딜프리트 빈드라(Dilpreet Bindra)는 “VMware vSphere Kubernetes Service(VKS)가 인증을 획득함으로써 개방형 표준에 기반한 고객 신뢰를 확보했다”고 밝혔다. 구글 클라우드의 제이고 맥클라우드(Jago Macleod)는 “인프라 재구축 없이 프로덕션 적용이 가능한 이동성 높은 AI 애플리케이션 개발이 가능해졌다”고 말했다.

오픈 커뮤니티 주도의 검증 체계와 기술적 구성

CNCF의 워킹그룹 ‘AI 적합성(Working Group AI Conformance)’은 쿠버네티스에서 실행되는 AI 워크로드의 상호 운용성, 재현성, 이식성을 보장하기 위한 표준과 검증 제품군을 개발 중이다. 이 그룹은 참조 아키텍처, 프레임워크 지원 요구사항, GPU 통합, 볼륨 처리, 작업 수준 네트워킹 등 핵심 기능을 포함한 테스트 기준을 명시한다. GitHub의 공개 저장소를 통해 프로그램은 완전한 투명성을 유지하며, 개발자와 기업이 자율적으로 참여할 수 있도록 설계되었다.

쿠버네티스 AI 적합성 프로그램은 AI의 기업 도입을 안정화하고, 멀티클라우드·에지·온프레미스 환경을 아우르는 일관된 인프라 생태계를 구축하는 기반이 될 것으로 평가된다.

레드햇의 유안 탕(Yuan Tang)은 “이 프로그램이 특정 벤더 종속을 방지하고 진정한 이식성과 안정성을 보장할 것”이라며, 오픈시프트(OpenShift) 고객에게도 동일한 혜택을 제공한다고 강조했다. 마이크로소프트의 브렌던 번스(Brendan Burns)는 “쿠버네티스가 AI 확장의 중심이 되고 있으며, 이번 표준화는 대규모 혁신을 위한 핵심 인프라의 신뢰성을 강화한다.”라고 덧붙였다.

CNCF는 향후 AI 인프라 전반의 표준을 지속 확장하고, AI 도입의 신뢰성과 접근성을 높이기 위한 글로벌 협력 생태계를 강화할 계획이다.