AI 인프라 글로벌 기업 델 테크놀로지스(Dell Technologies, 이하 ‘델’)가 ‘엔비디아 블랙웰 울트라(Blackwell Ultra)’를 탑재한 신제품과 최신 기술 역량을 집약해 ‘엔비디아 기반 델 AI 팩토리(Dell AI Factory with NVIDIA)’ 포트폴리오를 업데이트 했다고 19일 밝혔다.  

이번 협력으로 델은  엔드-투-엔드 인프라 솔루션 ‘엔비디아 기반의 델 AI 팩토리’로 AI 인프라스트럭처, 소프트웨어 및 서비스 전반에서 일관된 경험을 제공하고 개별 사용자 환경에서부터 대규모 데이터 센터 구축까지 AI 프로젝트를 확장할 수 있는 토털 솔루션을 공급한다.  

AI 개발자 PC의 표준 제시하는 ‘델 프로 맥스’ 포트폴리오 

델은 AI 개발자, 파워 유저 및 전문 사용자를 위해 고성능 AI PC 포트폴리오 ‘델 프로 맥스’ 라인업에 엔비디아의 전문가용 그래픽 솔루션을 자사 제품에 탑재했다. ‘델 프로 맥스’는 경량 AI 개발, 데이터 분석 및 설계 시뮬레이션뿐만 아니라 복잡한 LLM을 배포하기 이전의 학습, 추론 및 미세 조정 작업 등에 적합하다. 

신제품 ‘GB10 기반 델 프로 맥스(Dell Pro Max with GB10)’는 컴팩트하고 전력 효율적인 폼 팩터와 뛰어난 성능을 제공한다. 엔비디아 블랙웰 아키텍처 기반의 시스템 온 칩 ‘엔비디아 GB10 그레이스 블랙웰 슈퍼칩(NVIDIA GB10 Grace Blackwell Superchip)’을 탑재했다.

최대 1페타플롭(1000TFLOPs)의 AI 컴퓨팅 성능, 128GB의 통합 메모리를 제공해 AI 개발자가 모델을 개발, 학습 및 테스트한 후 델의 다른 인프라스트럭처 오퍼링에 배포할 수 있다. 

고성능 PC 제품군의 최상위 모델 ‘GB300 기반 델 프로맥스(Dell Pro Max with GB300)’는 AI 개발자 및 데이터 과학자를 위한 서버 수준의 컴퓨팅을 데스크톱에서 구현할 수 있다. 새로 출시된 엔비디아 GB300 그레이스 블랙웰 울트라 데스크톱 슈퍼칩을 탑재한 이 시스템은 최대 20페타플롭의 AI 컴퓨팅 성능을 지원한다.

또한, 최대 288GB의 HBM3e GPU 메모리 및 496GB의 LPDDR5X CPU 메모리를 더해 784GB의 유니파이드 시스템 메모리와 네트워킹 솔루션 ‘엔비디아 커넥트X-8 슈퍼NIC’를 제공해 최대 4600억 개의 파라미터 모델을 학습할 수 있다. 

새로 출시된 델 프로 맥스 노트북 및 데스크탑은 ‘엔비디아 RTX 프로 블랙웰 세대 GPU’와 ‘인텔 코어 울트라 시리즈 2’, 코파일럿+ PC AI 경험을 제공하는 ‘AMD 라이젠(AMD Ryzen)’ 및 ‘AMD 스레드리퍼(AMD Threadripper)’ 프로세서 옵션을 탑재해 다양한 워크로드에서 생산성을 향상할 수 있다.  

새로운 델 파워엣지 서버 및 네트워킹 

델 파워엣지 서버는 곧 출시될 엔비디아 HGX B300 NVL16, 엔비디아 GB300 NVL72 및 엔비디아 RTX PRO 6000 블랙웰 서버 에디션을 포함한 엔비디아 블랙웰 울트라 플랫폼을 지원한다. 최대 288GB의 HBM3e 메모리를 갖춘 시스템으로 복잡한 AI 모델을 처리할 수 있다. ‘엔비디아 커넥트X-8 슈퍼NIC’를 통해 800Gb/s의 처리량을 지원한다.

‘델 파워엣지 XE7740’ 및 ‘델 파워엣지 XE7745’ 서버는 엔비디아 기반 델 AI 팩토리와 함께 제공된다. 이 모델은 현재 최대 8개의 엔비디아 H200 NVL GPU를 지원하며, 추론을 위한 ‘엔비디아 NIM’ 및 ‘엔비디아 라마 네모트론’ 모델을 포함한 엔비디아 AI 엔터프라이즈 소프트웨어 5년 구독을 함께 제공한다.

이를 통해 HPC 워크로드뿐만 아니라 생성AI 미세 조정, 추론 및 에이전틱 논증 애플리케이션을 위한 플랫폼의 역할을 한다. AI 워크로드를 비즈니스 프로세스에 통합할 때 두 배 이상의 AI 성능을 제공하며, 최대 8개의 엔비디아 RTX PRO 6000 블랙웰 서버 에디션 PCIe GPU를 지원한다.

GB200 NVL4 플랫폼 기반의 새로운 ‘델 파워엣지 XE8712’ 서버는 차세대 AI 가속 컴퓨팅을 지원한다. 통합 랙 솔루션 ‘델 IR7000’ 기준 최대 144개의 엔비디아 B200 GPU를 탑재할 수 있다. 이 제품은 수냉식 시스템으로 AI 모델 훈련 및 복잡한 HPC 시뮬레이션에 맞게 확장 가능해 성능과 컴퓨팅 효율을 향상하고 운영 비용 및 데이터 센터 공간을 절감하는데 탁월하다. 

AI 촉진에 필요한 데이터 제어 역량 지원 

‘엔비디아 기반 델 AI 데이터 플랫폼(Dell AI Data Platform with NVIDIA)’은 에이전틱 AI 및 기타 AI 애플리케이션을 안전하게 배포할 수 있도록 지원하는 통합 솔루션이다. 고품질의 정형, 반정형 및 비정형 데이터에 항상 직접 액세스할 수 있도록 지원한다.

이 플랫폼은 델의 엔터프라이즈 스토리지와 엔비디아의 가속 컴퓨팅, 네트워킹 및 AI 소프트웨어와 결합해 AI 배포를 위한 지속적인 데이터 처리 및 데이터 관리 서비스를 제공한다. 

또한 ‘엔비디아 AI 데이터 플랫폼’ 레퍼런스 설계와 통합돼 AI 기반 인사이트와 비즈니스 데이터의 잠재력을 최대한 활용할 수 있다. 이와 함께 ‘델 데이터 관리 서비스’는 데이터 검색, 통합, 자동화 및 품질을 보장하기 위한 체계적인 접근 방식을 제공한다. 

엔비디아 기반 델 AI 데이터 플랫폼의 핵심은 델 파워스케일 스토리지로, 파워스케일은 ‘엔비디아 클라우드 파트너 프로그램’ 및 새로운 ‘엔비디아 인증 스토리지’ 지정 모두에서 검증을 완료했다. 이를 통해 엔비디아 엔터프라이즈 레퍼런스 아키텍처를 기반으로 엔터프라이즈 AI 팩토리 구축이 가능하다. 

이전 세대 시스템보다 220% 더 빠른 데이터 수집과 99% 더 빠른 데이터 검색으로 GPU 활용도를 극대화한다. 파워스케일은 엔비디아 DGX 슈퍼POD 요구 사항을 초과 충족하며 AI 배포를 효율적으로 확장하고, 훈련 시간을 단축한다. 또한 스케일아웃 아키텍처로 모든 AI 성능 요구 사항을 충족할 수 있다. 

이와 함께 델은 고객이 GPU 가속 노드에서 파워스케일과 같은 델 스토리지로 KV 캐시 데이터를 오프로드해 GPU 메모리를 확보할 수 있는 ‘엔비디아 다이나모’를 지원한다.  

 확장된 AI 기능을 제공하는 새로운 AI 솔루션 및 서비스 

델은 엔비디아 기반 델 AI 팩토리에 AI 구축을 강화하고 간소화하는 새로운 솔루션과 서비스를 추가했다.  

에이전틱 AI를 간소화하는 ‘엔비디아 AI 엔터프라이즈’ 제품군에 엔비디아의 ‘AI-Q 블루프린트’ 및 ‘에이전트IQ 툴킷’을 통합해 제공한다. 이 플랫폼은 NIM, 니모 리트리버 및 AI 블루프린트를 제공하며, 추론을 위한 새로운 엔비디아 라마 네모트론 모델을 포함하고 있어 강화된 기능으로 AI 에이전트 플랫폼을 구축할 수 있다.

새롭게 선보이는 ‘RAG를 위한 델 가속 서비스(Dell Accelerator Services for RAG)’는 통합 비즈니스 데이터로 에이전트 기반 솔루션을 구현하고 최적화하여 ROI 극대화를 돕는다. 

또한, 엔비디아 기반 델 AI 팩토리에 ‘엔비디아 런ai’ 오케이스레이션 플랫폼 검증을 제공해 GPU 리소스 활용을 최적화하고 복잡한 워크로드를 관리하며 온프레미스에서 AI 워크플로를 가속화할 수 있는 툴을 제공한다. 

‘생성AI 디지털 어시스턴트를 위한 델 서비스(Dell Services for GenAI Digital Assistants)’는 엔비디아의 확장 가능한 블루프린트 아키텍처와 연계돼 인간중심의 다국어 솔루션으로 엔터프라이즈 셀프 서비스 혁신을 지원한다. 

‘델 AI 코드 어시스턴트’는 온프레미스 방식의 엔터프라이즈급 코딩 어시스턴트로, 에이전틱 AI 툴과 고급 컨텍스트 엔진을 기반으로 정확하고 문맥을 고려한 코드를 제안한다. ‘AI 코드 생성을 위한 델 구현 서비스(Dell Implementation Services for AI Code Generation)’는 코드 어시스턴트 모델을 구현하고 미세 조정한다. 

델 테크놀로지스 김경진 지사장은 “델은 엔비디아의 하드웨어 및 소프트웨어 경험을 데스크톱에서 데이터센터에 이르기까지 폭넓게 적용하여 AI에 요구되는 지속성과 안정성을 제공한다.”라고 말했다.