델 테크놀로지스(지사장 김경진, 이하 ‘델’)가 자사의 AI 및 ML 인프라 ‘델 AI 팩토리(Dell AI Factory)’ 포트폴리오에 AMD 5세대 에픽(EPYC) 프로세서가 탑재된 신규 ‘델 파워엣지(Dell PowerEdge)’ 서버 5종과 AI 서비스용 가속기를 업데이트를 15일 발표했다.

AMD 5세대 에픽 프로세서 탑재된 델 파워엣지 서버 

이번에 델 파워엣지 포트폴리오에 추가된 서버들은 ▲델 파워엣지 XE7745(Dell PowerEdge XE7745) ▲델 파워엣지 R6725(Dell PowerEdge R6725) ▲델 파워엣지 R7725(Dell PowerEdge R7725) ▲델 파워엣지 R6715(Dell PowerEdge R6715) ▲델 파워엣지 R7715(Dell PowerEdge R7715) 5종이다.

엔터프라이즈 AI 워크로드용으로 설계된 XE7745 서버는 4U 공냉식 섀시에서 최대 8개의 이중 폭(double-width) 또는 16개의 단일 폭(single-width) PCIe GPU와 AMD 5세대 에픽 프로세서를 지원한다.

AI 추론, 모델 미세 조정 및 고성능 컴퓨팅을 위해 특별히 설계된 내부 GPU 슬롯은 네트워크 연결을 위한 8개의 추가 5.0세대 PCIe 슬롯과 결합돼 기존 대비 2배의 밀도의 DW PCIe GPU 용량을 제공한다.

한편, R6725 및 R7725서버는 DC-MHS 섀시 설계로 업데이트돼 향상된 공랭식 냉각과 듀얼 500W CPU를 지원해 발열열을 줄이고 전력 효율을 높였다.

3가지 모델 모두 최대 50% 더 많은 코어를 지원하며, 코어당 성능을 최대 37% 향상하는 등 성능과 효율성 및 TCO5)를 개선했다.

R6715와 R7715 서버는 37% 증가된 드라이브 용량을 통해 스토리지 밀도를 높였다. 특히 이 두 스토리지는 다양한 구성 옵션으로 제공되는 싱글 소켓 서버로, 24개의 DIMM(2DPC)을 지원해 2배의 메모리, 1U 또는 2U 폼팩터 등 다양한 워크로드를 지원한다.

한편 델 파워엣지 서버는 iDRAC(Integrated Dell Remote Access Controller)을 통해 원격으로 모니터링, 관리 및 업데이트가 가능하다. 또한 보안 전용 코프로세서(co-processor)를 통해 iDRAC은 서버 관리 및 보안을 간소화해 IT 조직이 보다 안정적이고 효율적으로 요구사항에 대응할 수 있다.

AMD 인스팅트 MI300X 가속기 탑재 및 맞춤형 운영 지원

한편, AI 모델 훈련 및 배포 하드웨어와 소프트웨어를 포함하는 AI 플랫폼 ‘AMD 기반 델 생성AI 솔루션(Dell Generative AI Solutions with AMD)’에 AMD 인스팅트 MI300X(AMD Instinct MI300X) 가속기가 탑재됐다.

이 가속기와 ‘델 파워엣지 XE9680(Dell PowerEdge XE9680)’ 서버를 사용한 AI 추론, RAG 등이 가능하며 확장 가능한 모듈식 아키텍처를 구현할 수 있다. 또한 최대 86%까지 가치 실현 시간(Time-To-Value)을 단축할 수 있다.

한편 허깅페이스 배포 지원 플랫폼 ‘델 엔터프라이즈 허브 온 허깅페이스(Dell Enterprise Hub on Hugging Face)’에 AMD 인스팅트 MI300X 가속기 탑재형 XE9680이 추가돼 커스텀 컨테이너 및 스크립트를 통해 라마(Llama) 및 믹스트랄(Mixtral)과 같은 모델을 구축할 수 있다.

또한 생성AI용 델 프로페셔널 서비스에 AMD 환경 지원이 추가됐다. AMD 기반의 ‘생성AI 플랫폼을 위한 델 구현 서비스(Dell Implementation Services for GenAI Platform)’는 쿠버네티스(Kubernetes) 구성, 고급형 AI 프레임워크 구축, 모범 사례에 대한 고객 지식 이전 등 맞춤형 운영 플랫폼을 제공해 ROI를 높인다.

이 서비스는 델 전문 인력이 전략 수립부터 데이터 준비, 플랫폼 및 모델 구현, 솔루션 확장에 이르기까지 수명주기 전반에 걸쳐 AI를 통해 비즈니스 성과를 달성할 수 있도록 지원한다.

델 테크놀로지스의 김경진 한국 총괄사장은 “델은 AMD 최신 기술을 통합하며 포트폴리오를 대거 확장함으로써 고객의 현재와 미래를 모두 만족시킬 수 있는 성능과 효율성을 확보했다.”라며, “델 AI 팩토리는 AI 성능에 대한 새로운 기준을 제시하는 동시에 현대적인 데이터 중심 환경에 필수적인 강력하고 비용 효율적인 인프라 솔루션 경험을 제공한다.”라고 전했다.