HPE가 엔비디아(NVIDIA)와 ‘HPE 기반 엔비디아 AI 컴퓨팅(NVIDIA AI Computing by HPE)’으로 생성형, 에이전틱 및 피지컬 AI의 구축을 가속하는 엔터프라이즈 AI 솔루션을 24일 공개했다. 

HPE 기반 엔비디아 AI 컴퓨팅은 성능, 전력 효율, 보안을 강화하고 AI를 위한 풀스택 턴키 프라이빗 클라우드 기능을 추가한 엔터프라이즈 AI 솔루션으로, 모든 규모의 기업이 AI 모델을 효과적으로 훈련, 튜닝 또는 추론할 수 있다.

이번 협력으로 양사는 생성AI와 에이전틱 AI는 물론 로보틱스, 디지털 트윈까지 아우르는 풀스택 인프라를 제공해 AI를 개발, 학습, 배포할 수 있도록 지원한다. 

HPE 프라이빗 클라우드 AI, 데이터 가치 극대화

HPE는 ‘엔비디아 AI 데이터 플랫폼’을 통해 ‘HPE 프라이빗 클라우드 AI’를 확장한다. HPE 프라이빗 클라우드 AI와 엔비디아 AI 데이터 플랫폼의 통합은 데이터의 가치를 극대화하고 AI 기반 비즈니스 추진을 가속한다.

HPE 프라이빗 클라우드 AI는 HPE 그린레이크의 셀프 서비스 클라우드 환경을 기반으로, AI 모델의 훈련과 튜닝, 추론을 위한 인프라를 제공한다. 이는 엔비디아 AI-Q 블루프린트와 리즈닝(reasoning) 역량을 갖춘 엔비디아 라마 네모트론 모델을 위한 엔비디아 NIM 마이크로서비스 등 엔비디아 AI 데이터 플랫폼의 핵심 블루프린트 및 모델을 빠르게 배포할 수 있다.

엔비디아 AI 데이터 플랫폼은 엔비디아의 가속 컴퓨팅, 네트워킹, AI 소프트웨어와 엔터프라이즈 스토리지를 활용하는 연속적 데이터 프로세싱으로 데이터를 활용 가능한 인텔리전스로 변환한다. 현재 HPE 프라이빗 클라우드 AI에 모두 포함되어 있다.

HPE 옵스램프로 새로운 AI 네이티브, 풀스택 가시성

HPE 옵스램프(OpsRamp)는 AI 네이티브 소프트웨어 스택의 가시성을 포함하는 GPU 최적화 기능을 지원한다. 이를 통해 대규모 엔비디아 가속 컴퓨팅 클러스터에서 실행되는 훈련 및 추론 워크로드의 성능을 관리할 수 있는 풀스택 가시성을 제공한다.

GPU 최적화 기능은 HPE 프라이빗 클라우드 AI 번들 및 독립형으로 대규모 클러스터에 확장할 수 있다. HPE가 제공하는 AI를 위한 새로운 2일차 (Day 2) 운영 서비스로 제공된다. 이 서비스는 HPE 컴플리트 케어 서비스와 GPU 관리 기능을 결합해 IT 운영팀이 하이브리드 배포 환경에서 AI 워크로드를 관리, 최적화할 수 있다.

엔비디아 블랙웰 울트라 및 블랙웰 아키텍처를 탑재한 HPE AI 서버

HPE 기반 엔비디아 AI 컴퓨팅은 최신 AI 서버를 제공해 엔비디아 블랙웰 울트라 및 블랙웰 플랫폼을 기반으로 AI 모델 학습, 튜닝, 추론을 지원한다. 각 AI 서버는 차세대 AI 시대를 위한 최적의 성능, 효율, 안정성 및 확장성을 보장하기 위해 엔비디아 가속 컴퓨팅, 네트워킹 및 엔비디아 AI 엔터프라이즈 소프트웨어와 함께 배포할 수 있다.

HPE 기반 엔비디아 GB300 NVL72는 서비스 제공기업과 첨단 기업들이 조 단위의 파라미터 모델 학습을 위한 복잡한 대규모 AI 클러스터를 배포할 수 있도록 지원하며, HPE 수냉 기술과 함께 제공된다.

HPE 프로라이언트 컴퓨트 XD 서버는 엔비디아 HGX B300 플랫폼을 통해 에이전틱 AI와 테스트 타임 리즈닝 추론을 포함한 가장 복잡한 워크로드를 처리하는 대규모 AI 모델을 학습하고 튜닝하며 실행할 수 있다.

HPE 프로라이언트 컴퓨트 DL384b Gen12는 엔비디아 GB200 그레이스 블랙웰 NVL4 슈퍼칩 탑재해 과학적 컴퓨팅, 그래프 신경망(GNN) 학습, AI 추론 애플리케이션을 포함한 HPC와 AI 워크로드에서 혁신적인 성능을 제공한다.

HPE 프로라이언트 컴퓨트 DL380a Gen12는 엔비디아 RTX 프로 6000 블랙웰 서버 에디션을 탑재한 PCIe 기반 데이터센터 솔루션으로, 엔터프라이즈 AI 추론 및 시각적 컴퓨팅 워크로드에 대한 뛰어난 성능을 제공한다.

HPE 안토니오 네리(Antonio Neri) 회장은 “HPE와 엔비디아는 기업의 가치 실현 시간을 단축해 생산성을 높이고 새로운 수익원을 창출하는 포괄적인 AI 솔루션 포트폴리오를 출시한다.”라고 말했다.