생성AI 도입이 확산되는 가운데, 기업은 복잡한 AI 인프라 구축과 운영의 효율성을 높일 수 있는 통합 솔루션에 대한 수요가 증가하고 있다. 특히 에이전틱 AI의 경우 다양한 워크플로우와 데이터 접근이 필요해, 이를 안전하게 지원할 수 있는 플랫폼 기술의 필요성이 커지고 있다.

뉴타닉스는 자사의 뉴타닉스 엔터프라이즈 AI(Nutanix Enterprise AI, 이하 NAI) 솔루션의 최신 버전을 공식 발표했다. 이번 출시에서는 엔비디아 NIM 마이크로서비스와 니모 프레임워크(NVIDIA NeMo Framework)를 포함한 엔비디아 AI 엔터프라이즈와의 통합을 강화해 기업 내 프로덕션 단계의 에이전틱 AI 애플리케이션 구축 및 배포를 지원한다.

통합형 에이전틱 AI 플랫폼으로 워크플로우 단순화

최신 NAI는 중앙 집중식 LLM 저장소를 기반으로 에이전트를 위한 리랭킹, 임베딩, 가드레일 기능을 공용 모델로 제공하며, 이를 통해 다양한 부서와 서비스에 필요한 애플리케이션을 간단하고 안전하게 연결할 수 있다. 공유 모델 서비스 방식은 2일 차 운영의 간소화와 GPU, CPU, 메모리 등 자원 활용의 효율화를 동시에 제공한다.

특히, LLM 모델 재사용 기능은 인프라 구성 요소의 부하를 줄이며, 쿠버네티스 기반의 멀티클라우드 환경에서 신속한 배포를 가능하게 한다. 사용자는 엔비디아의 라마 네모트론, 니모 리트리버, 니모 가드레일을 포함한 다양한 AI 마이크로서비스를 사전 정의된 워크플로우를 통해 활용할 수 있다.

AI 보안성과 데이터 인사이트 통합 강화

NAI는 생성AI의 안전성을 확보하기 위해 사용자 쿼리 및 LLM 응답을 필터링하는 가드레일 모델을 제공한다. 엔비디아 니모 가드레일은 콘텐츠 필터링을 통해 편향되거나 유해한 출력과 주제 탈선을 방지하며, 코드 생성 시에도 일관성과 신뢰성을 높인다.

또한, 뉴타닉스는 자사의 통합 스토리지 및 데이터베이스 서비스를 엔비디아 AI 데이터 플랫폼 레퍼런스 설계에 기반해 연동함으로써 비정형 및 정형 데이터를 통합 관리할 수 있도록 지원한다. 이는 엔비디아의 가속 컴퓨팅, 네트워킹 기술과 결합되어 데이터 기반 인사이트 도출을 가속화한다.

NAI는 HCI, 베어메탈, 클라우드 IaaS 등 다양한 인프라에 유연하게 배포할 수 있으며, 뉴타닉스 쿠버네티스 플랫폼 및 데이터 서비스와의 연계를 통해 에이전틱 AI에 최적화된 플랫폼을 제공한다. 기업은 자체 정책에 부합하면서도 확장 가능한 에이전틱 환경을 구축할 수 있다.

뉴타닉스 제품 관리 수석 부사장 토마스 코넬리는 “고객이 어디서든 AI 에이전트를 안전하고 효율적으로 구축할 수 있도록 최신 마이크로서비스를 통합했다”고 밝혔으며, 엔비디아의 저스틴 보이타노 부사장도 “기업이 정교한 에이전틱 AI 도구를 필요로 하는 만큼, 통합 플랫폼이 강력한 실행 기반이 된다”고 강조했다. ESG그룹의 스콧 싱클레어 실무 디렉터는 “AI가 전략적 가치를 가지려면 보안성과 인프라 제어가 필수”라고 언급하며 파트너십의 의미를 부여했다.

관련기사

저작권자 © 지티티코리아 무단전재 및 재배포 금지