엔비디아가 스펙트럼-X 네트워킹 플랫폼을 통해 AI 스토리지 성능을 최대 48%까지 가속화할 수 있는 솔루션을 발표했다. 이 플랫폼은 데이터 스토리지 패브릭으로 확장되어, 더 빠른 고성능 AI 구현이 가능하다.

스펙트럼-X는 적응형 라우팅과 혼잡 제어를 통해 데이터 흐름의 충돌을 완화하고 유효 대역폭을 확대한다. 이를 통해 대부분의 데이터 센터에서 사용되는 RoCE v2보다 훨씬 높은 스토리지 성능을 제공한다. 이로 인해 AI 워크플로우에서 스토리지에 의존하는 단계의 완료 속도를 높여 훈련 시 작업 완료 시간을 단축하고, 추론 시 토큰 간 지연 시간을 줄일 수 있다.

주요 스토리지 파트너사인 DDN, 바스트 데이터, 웨카와의 협력을 통해 엔비디아는 스펙트럼-X 성능을 최적화하고 있다. 이와 함께 이스라엘-1 슈퍼컴퓨터를 구축하여 스펙트럼-X가 스토리지 워크로드에 미치는 영향을 테스트하고, 실제 슈퍼컴퓨터 운영 환경에서 네트워크가 스토리지 성능에 미치는 영향을 확인하고 있다.

스펙트럼-X는 AI 성능에 중요한 스토리지 네트워크 성능을 향상시킨다. AI 모델 훈련 도중 체크포인트로 저장되는 대량의 데이터 전송에서 특정 흐름이 네트워크 대역폭을 과도하게 점유하는 '엘리펀트 플로우'를 해결하고, 네트워크 트래픽을 효율적으로 관리함으로써 최적의 활용도를 제공한다. 또한, RAG와 같은 추론 기법에서 스토리지 패브릭이 워크로드 성능을 좌우하는데 스펙트럼-X는 이러한 성능을 극대화한다.

적응형 라우팅과 혼잡 제어 기술을 통해 스펙트럼-X는 네트워크의 복원력을 향상시키며, 스토리지 워크로드에 대한 성능과 네트워크 활용도를 증대시킨다. 이는 엔비디아의 다양한 소프트웨어 제품과 통합되어 GPU 데이터 경로에 대한 스토리지 가속화를 지원한다. 이를 통해 AI 팩토리는 더 빠르고 효율적인 성능을 발휘할 수 있게 된다.