HPE가 생성AI용 엔터프라이즈 컴퓨팅 솔루션 개발을 위한 NVIDIA(엔비디아)와의 협력 확대를 발표했다. 양사가 공동 설계한 사전 구성 형식의 AI 튜닝과 추론 솔루션을 기반으로, 다양한 규모의 기업들이 프라이빗 데이터를 활용해 파운데이션 모델을 신속하게 맞춤화 할 수 있게 됐다. 또한, 에지에서 클라우드에 이르기까지 어디서나 프로덕션 애플리케이션을 배포할 수 있다. 기업들은 HPE와 엔비디아의 풀스택 AI 튜닝과 추론 솔루션이 포함된 포트폴리오를 통해 생성AI 인프라 개발과 배치 과정에서 발생하는 복잡성을 줄일 수 있다.

HPE와 엔비디아는 파트너십 확대의 일환으로 풀스택 AI 솔루션인 신규 생성형 AI용 엔터프라이즈 컴퓨팅 솔루션을 선보인다. 이 솔루션은 NVIDIA NeMo(엔비디아 네모) 프레임워크를 포함한 NVIDIA AI Enterprise(엔비디아 AI 엔터프라이즈) 소프트웨어 제품군과 HPE Machine Learning Development Environment Software(HPE MLDE 소프트웨어), HPE Ezmeral Software(HPE 에즈메랄 소프트웨어), HPE ProLiant Compute(HPE 프로라이언트 컴퓨트), HPE Cray Supercomputers(HPE 크레이 슈퍼컴퓨터)를 통합해 제공한다.

생성AI용 엔터프라이즈 컴퓨팅 솔루션은 새롭게 선보이는 AI 튜닝과 추론 데이터센터 솔루션으로, 바로 사용할 수 있어 다양한 규모의 기업이 신속하게 AI를 도입할 수 있게 한다.

기업은 이 솔루션을 활용해 사전 훈련된 파운데이션 모델을 프라이빗 데이터와 함께 사용함으로써 AI 챗봇과 같은 생산 애플리케이션을 만들 수 있다. 또한 RAG(Retrieval-Augmented Generation) 기술 기반 업무처리를 통해 애플리케이션의 데이터 품질과 정확도를 더욱 향상시킬 수 있다.

HPE 프로라이언트 컴퓨트 DL380a는 엔비디아 L40S GPU, 엔비디아 블루필드-3 DPU, 엔비디아 스펙트럼-X 이더넷 네트워킹 플랫폼으로 사전 구성된 랙 규모의 아키텍처다. 이 솔루션은 700억 개 파라미터로 구성된 라마 2 모델을 미세 조정할 수 있는 크기며, 16개의 HPE 프로라이언트 컴퓨트 DL380a 서버와 64개의 L40S GPU를 포함한다.

또한 모델을 빠르게 프로토타입하고 테스트할 수 있는 새로운 생성AI 스튜디오 기능을 갖춘 HPE MLDE 소프트웨어와 하이브리드 클라우드 전반에 걸쳐 배포 과정을 단순화하고 AI 워크로드를 위한 데이터 준비 과정을 가속화하는 GPU 인식 기능을 갖춘 HPE 에즈메랄 소프트웨어가 같이 제공된다.

엔비디아 AI 엔터프라이즈를 통해 보안, 안정성, 관리성, 그리고 지원을 강화하고 프로덕션 AI의 개발과 배포를 가속화한다. 또한, 기업용 생성AI를 간소화하기 위해 NVIDIA 네모 프레임워크, 가드레일 툴킷, 데이터 큐레이션 도구, 사전 훈련된 모델을 제공한다.

HPE 서비스는 이제 컨설팅 서비스, 인력 훈련, 배포 솔루션이 포함된 광범위한 포트폴리오를 제공한다. 새로운 AI 서비스는 생성AI와 LLM 디스커버리부터 구현에 이르기까지 고객이 AI를 도입하고 활용하는 모든 단계에 걸쳐 서비스를 제공한다. 이 과정을 통해 고객들은 솔루션을 구축, 배포, 확장해 결과를 만들어 내는데 필요한 최적의 운영 모델과 하이브리드 클라우드 데이터 전략을 개발하게 된다. 이런 포괄적인 서비스는 AI와 데이터를 위한 새로운 글로벌 CoE(Centers of Excellence)를 통해 이용할 수 있고, 현재 스페인, 미국, 불가리아, 인도, 튀니지에서 사용 가능하다.

지난 고성능 컴퓨팅 국제 컨퍼런스 ‘SC23’에서 HPE는 대기업, 연구기관, 정부 조직이 AI 생애주기의 첫 단계인 파운데이션 모델을 개발하고 훈련할 수 있도록 돕는 엔비디아 기반 슈퍼컴퓨팅 턴키 솔루션을 발표한 바 있다. 이번에 공개된 생성AI용 엔터프라이즈 컴퓨팅 솔루션은 튜닝과 추론에 초점을 맞춘 기업 고객을 위한 더 작은 폼팩터를 제공하는  AI 솔루션이다.

안토니오 네리(Antonio Neri) HPE 회장 겸 CEO는 “HPE와 엔비디아는 사전 구성된(pre-configured) 솔루션 포트폴리오를 통해 AI 모델을 개발하고 배포하는 여정을 간소화할 수 있는, 포괄적인 AI 네이티브 솔루션 제공자로 자리매김하고 있다”며, “HPE와 엔비디아의 전략적 협력은 AI로 비즈니스를 혁신하고자 하는 고객의 장벽을 크게 낮출 것”이라고 말했다.