AI 시스템의 복잡성과 규모가 증가함에 따라 안정적이고 효율적인 운영을 위해 필요성이 대두되었다. IDC에 따르면 이더넷 프로토콜 기반 네트워킹, 연산, 스토리지의 새로운 생태계가 온프레미스 엔터프라이즈 AI 배포의 증가하는 요구를 충족하고 있으며, 이는 AI 인프라 벤더 환경의 변화로 이어질 것이다. IDC는 생성AI 데이터센터 이더넷 스위칭 시장이 연평균성장률 70%를 기록해 2028년 90억 달러에 이를 것으로 예상한다.

Ops4AI(Operations for AI)는 인공지능 모델의 개발, 배포, 운영, 및 관리 전 과정을 아우르는 운영 방식으로 AI 시스템의 안정성, 효율성, 및 확장성을 보장하기 위해 필수적이다. Ops4AI는 모델 모니터링, 성능 최적화, 자동화된 배포, 데이터 관리 등을 포함하며, 이를 통해 AI 시스템의 신뢰성과 운영 효율성을 향상시킨다. 산업적으로는 AI 프로젝트의 속도와 품질을 높여 기업의 경쟁력을 강화시키고, 다양한 분야에서 AI 기술의 실용적 적용을 촉진시킨다. 이는 결국 AI 기술의 ROI를 극대화하고, 지속 가능한 혁신을 가능하게 한다.

AI 네이티브 네트워킹 글로벌 기업 주니퍼 네트웍스가 주요 벤더 스위칭, 라우팅, 스토리지, 컴퓨팅 솔루션으로 구성된 엔드투엔드 자동화 AI 데이터센터 솔루션 및 자동 운영을 검증하는 멀티벤더 랩과 AI 클러스터 가치 실현을 가속화하는 JVD(Juniper Validated Designs)를 발표했다. 이와함께 이더넷을 통한 AI 워크로드 성능과 관리를 최적화하는 개선된 소프트웨어 최신 기능도 공개했다.

주니퍼는 이러한 Ops4AI(Operations for AI) 이니셔티브를 통해 다양한 인프라 생태계 파트너와 긴밀히 협력하여 가장 유연하고, 관리하기 쉬운 데이터센터 인프라를 제공해 최적의 AI 워크로드 성능을 구현한다.

AI 운영 효율 높이는 Ops4AI 최신 기능

주니퍼 AI 네이티브 네트워킹 플랫폼(AI-Native Networking Platform)의 핵심인 네트워킹을 위한 AI(Networking for AI) 솔루션은 AI에 최적화된 400G 및 800G QFX 시리즈 스위치 및 PTX 시리즈 라우터 기반 스파인 리프(Spine-leaf) 데이터센터 아키텍처로 구성된다. 이 솔루션은 고성능 방화벽을 통해 보안성을 높였으며, 주니퍼 앱스트라(Juniper Apstra) 데이터센터 보장(Data center Assurance) 소프트웨어 및 마비스(Marvis) 가상 네트워크 어시스턴트(VNA)를 통해 관리된다.

주니퍼 앱스트라와 마비스는 인텐트 기반 네트워킹, 멀티벤더 스위치 관리, 애플리케이션/플로우/워크로드 인식, AIOps 선제 조치, 생성AI 대화형 인터페이스와 같은 주요 Ops4AI 기능을 제공한다. 고객과 파트너는 AI JCT(Job Completion Times)를 단축하고, 추론(Inferencing) 중 지연 시간을 줄이며, GPU 활용률을 높이는 동시에 배포 시간을 최대 85% 단축과 운영 비용을 최대 90%까지 절감할 수 있다.

Ops4AI 소프트웨어 개선 사항으로 ▲AI를 위한 패브릭 오토튜닝 ▲글로벌 로드 밸런싱 ▲네트워크부터 SmartNIC까지 포괄하는 엔드투엔드 가시성 등이 있다.

다양한 벤더들과 협업하는 티벤더 Ops4AI 랩

개방성과 협업은 AI 데이터센터를 현재의 얼리어답터 단계에서 효과적인 대중 시장 배포로 전환하는 유일한 방법이다. 기존에는 멀티벤더 AI 데이터센터 인프라의 엔드투엔드 운영이 어려워 수직 통합된 AI 데이터센터 솔루션의 벤더 종속과 리드타임 문제를 피할 수 없었다. 주니퍼는 브로드컴, 인텔, 엔비디아, WEKA 등 주요 업체들을 비롯한 주니퍼 파트너 생태계가 참여하는 Ops4AI Lab을 출범시켰다. 캘리포니아 서니베일 주니퍼 본사에 위치한 Ops4AI Lab은 최첨단 GPU, 스토리지 기술, 이더넷 기반 네트워킹 패브릭, 자동화 운영을 사용해 자체 AI 워크로드를 테스트하고자 하는 고객과 파트너에게 개방된다. 검증된 이더넷 패브릭을 사용하는 Ops4AI 랩 테스트는 인피니밴드(InfiniBand) 기반 AI 인프라와 동등한 성능을 제공한다.

성공적인 배포 지원하는 JVD

JVD(Juniper Validated Designs)는 신규 고객이 선택한 솔루션과 토폴로지가 제대로 규정되고, 테스트 및 반복이 가능함을 알려주는 상세한 구현 문서로서 신속하게 성공적인 배포가 가능하도록 지원한다. 모든 JVD는 특정 플랫폼 및 소프트웨어 버전에 기반한 모범 사례 설계에서 테스트되고, 검증된 통합 솔루션이다.

Ops4AI JVD는 엔비디아 A100 및 H100 GPU, 주니퍼 생태계 파트너의 스토리지, 주니퍼 데이터센터 리프 앤 스파인 스위치 포트폴리오를 기반으로 구축된 AI 데이터센터를 위한 사전 검증된 청사진이다. 이는 FX 및 PTX 스파인, QFX 리프 스위칭, 데이터센터 자동화, 데이터센터 보안을 위한 주니퍼의 SRX 및 vSRX/cSRX 솔루션 기반의 안전하고 자동화된 데이터센터를 위한 주니퍼의 기존 JVD를 더욱 강화한다.

프라빈 자인(Praveen Jain) 주니퍼 네트웍스 AI 및 데이터센터 부문 SVP 겸 GM은 "동급 최강의 제품이 항상 고객과 시장의 선택을 받는 것은 AI 데이터센터의 연산, 스토리지, 네트워킹, 운영에서도 마찬가지이다. 주니퍼는 고객과 파트너가 완벽한 GenAI 솔루션을 구축하는 데 있어 최대한의 선택권, 유연성, 안정성을 구현하기 위해 Ops4AI 랩, JVD, 새로운 프로모션 프로그램에 적극적으로 투자하고 있다. 간편하고 신속한 배포와 운영으로 경제적인 고성능, 저지연 멀티벤더 AI 데이터센터 솔루션을 구축하기에 지금이 바로 적기이다.”고 말했다.