엔비디아가 생성AI 언어 애플리케이션, 추천 시스템 및 데이터 분석 워크로드를 위한 차세대 거대 언어 모델을 개발할 수 있는 대용량 메모리 AI 슈퍼컴퓨터인 엔비디아 GH200(Grace Hopper) 슈퍼칩(Superchips)과 엔비디아 NVLink 스위치 시스템을 발표했다.

DGX GH200 대용량 공유 메모리 공간은 NVLink 스위치 시스템과 함께 NVLink 상호 연결 기술을 사용하여 256개의 GH200 슈퍼칩을 결합하여 단일 GPU로 작동할 수 있다. 이는 2020년에 출시된 이전 세대 엔비디아 DGX A100보다 거의 500배 더 많은 1엑사플롭의 성능과 144테라바이트의 공유 메모리를 제공한다.

GH200 슈퍼칩은 엔비디아 NVLink-C2C 칩을 사용하여 동일한 패키지에서 Arm 기반 엔비디아 그레이스 CPU와 엔비디아 H100 텐서 코어 GPU를 결합하여 기존 CPU-GPU PCIe 연결이 필요 없다. 이는 최신 PCIe 기술에 비해 GPU와 CPU 사이의 대역폭을 7배 증가시키고 상호 연결 전력 소비를 5배 이상 줄이며 DGX GH200 슈퍼컴퓨터를 위한 600GB 호퍼 아키텍처 GPU 빌딩 블록을 제공한다.

DGX GH200은 그레이스 호퍼 슈퍼칩을 DGX GH200 시스템의 모든 GPU가 하나로 함께 작동할 수 있게 해주는 엔비디아 NVLink 스위치 시스템과 짝을 이루는 최초의 슈퍼컴퓨터이다. 이전 세대 시스템은 성능 저하 없이 하나의 GPU로 NVLink와 결합하기 위해 8개의 GPU만 제공했다.

DGX GH200 아키텍처는 이전 세대보다 48배 더 많은 NVLink 대역폭을 제공하여 단일 GPU 프로그래밍의 단순성과 함께 대규모 AI 슈퍼컴퓨터의 성능을 제공한다.

젠슨 황 엔비디아 CEO는 “생성AI, 대규모 언어 모델 및 추천 시스템은 현대 경제의 디지털 엔진이다. DGX GH200 AI 슈퍼컴퓨터는 엔비디아의 가장 앞선 가속 컴퓨팅 및 네트워킹 기술을 통합하여 AI의 경계를 확장한다."고 강조했다.