전 산업에서 엔터프라이즈 데이터 규모가 급격히 증가하며 비정형 데이터 비중이 높아지고 있다. 그러나 생성AI에 활용 가능한 데이터는 제한적이다. 데이터 준비를 단순화하고 사일로를 해소하며, 엔드투엔드 성능을 제공하는 통합 인프라에 대한 수요가 커지고 있다. 이에 데이터 수집부터 추론까지 최적화된 아키텍처 구축 필요성이 부각되고 있다.

AI 인프라 공급 기업 델 테크놀로지스(Dell Technologies)는 ‘델 AI 데이터 플랫폼(Dell AI Data Platform)’ 업데이트를 발표했다. 이번 업데이트는 데이터 수집, 변환, 에이전틱 추론, AI 기반 지식 검색 등 AI 수명주기 전반의 효율성을 극대화하는 데 중점을 뒀다. 델은 엔비디아(NVIDIA)와 엘라스틱(Elastic)과의 협력을 통해 검증된 GPU 가속형 아키텍처를 제공한다.

엔비디아·엘라스틱과의 전략적 협력

엘라스틱과는 비정형 데이터 엔진(Unstructured Data Engine)을 공동 개발해 대규모 비정형 데이터셋의 실시간 보안 접근과 고급 검색 기능을 제공한다. 이 엔진은 벡터 검색, 의미론적 검색, 하이브리드 키워드 검색을 지원하며 내장 GPU 가속으로 추론·검색 성능을 향상시킨다. 엔비디아와의 협력은 GPU 가속, 네트워킹, AI 소프트웨어 통합을 통해 AI 추론과 검색의 응답성을 높인다.

델 AI 데이터 플랫폼은 데이터 준비를 자동화해 AI 실험에서 운영으로의 전환을 가속한다. 전용 스토리지·데이터 엔진이 AI 에이전트를 고품질 데이터와 연결하며, 분산 정형 데이터 쿼리를 위한 페더레이티드 SQL, 대규모 데이터 변환 프로세싱 엔진, AI 최적화 스토리지를 포함한다. 이를 통해 방대한 데이터셋을 신뢰성 높은 실시간 인텔리전스로 전환한다.

파워엣지 R7725·R770 서버 성능

엔비디아 RTX PRO 6000 블랙웰 서버 에디션 GPU를 탑재한 델 파워엣지(Dell PowerEdge) R7725·R770 서버는 시각적 컴퓨팅, 데이터 분석, 가상 워크스테이션, 물리적 AI, 에이전트 추론 등 다양한 워크로드를 지원한다. 엔비디아 네모트론(NVIDIA Nemotron)과 코스모스(NVIDIA Cosmos) 모델 추론에 최적화되어 있으며, LLM 추론 토큰 처리량을 최대 6배, 공학 시뮬레이션 성능을 2배 향상한다. MIG 지원으로 동시 사용자 수를 4배까지 늘릴 수 있다.

델은 데이터 수집·변환·검색·컴퓨팅 전 과정을 아우르는 플랫폼과 서버를 제공하고, 엔비디아는 GPU·네트워킹·소프트웨어를 통해 성능을 높인다. 엘라스틱은 고급 검색 기능으로 애플리케이션 성능을 강화한다. 비정형 데이터 엔진과 파워엣지 R7725·R770 서버는 연내 출시될 예정이다.

김경진 한국 델 테크놀로지스 총괄 사장은 “AI의 잠재력을 최대한 발휘하려면 사일로를 없애고 데이터 접근을 단순화해야 한다”며 “엔비디아, 엘라스틱과의 협력을 통해 델 AI 데이터 플랫폼을 발전시켜 고객이 혁신을 가속화하고 AI를 자신 있게 확장할 수 있도록 지원할 것”이라고 말했다.

이번 델의 업데이트와 파트너십은 AI 실험 단계에서 운영 단계로의 빠른 전환을 목표로 한다. 검증된 아키텍처를 활용해 도입 위험을 낮추고, 데이터 파이프라인부터 추론까지 일관된 성능과 관리 체계를 제공함으로써 생성AI 활용의 저변 확대를 기대할 수 있다.