디지털 서비스 및 컨설팅 기업 인포시스(Infosys, 대표 살릴 파레크)가 엔비디아와 협력해 생성AI 기술을 활용한 AI 중심 서비스, 솔루션및 플랫폼인 인포시스 토파즈(Infosys Topaz) 를 활용해 통신사가 고객 경험을 개선하고, 네트워크 운영을 간소화하며, 서비스 제공 속도를 가속화한다고 밝혔다.

인포시스는 엔비디아 NIM 추론 마이크로서비스, 엔비디아 네모 리트리버(NeMo Retriever) 임베딩 모델, 네모 가드레일스(NeMo Guardrails)를 사용하여 통신사 도메인에 특화된 LLM 모델을 맞춤화하고 배포하는 세 가지 생성AI 솔루션을 개발했다. 이 솔루션들은 모두 실시간 전사 및 번역 기능을 제공하는 실시간 대화형 AI 파이프라인을 구축하기 위해 엔비디아 리바(Riva)를 사용하는 인포시스 토파즈에서 구동된다. 

토스카 네트워크 서비스 디자인(TOSCA Network Service Design)은 엔비디아 생성AI를 활용해 TOSCA(클라우드 애플리케이션을 위한 토폴로지 및 오케스트레이션 사양) 템플릿을 생성하고 맞춤화한다. 이 솔루션은 네트워크 서비스 설계 프로세스를 간소화하며, 엔비디아 NIM과 네모 리트리버 마이크로서비스를 사용해 지연 시간을 28% 줄이고 정확도를 15% 향상시켰다.

엔비디아 생성AI 기반 스마트 네트워크 운영 센터는 네트워크 엔지니어와 네트워크 운영 인력이 문제를 더 빠르고 정확하게 해결할 수 있도록 돕는다. 엔비디아 NIM과 네로 리트리버로 네트워크 문제 해결 시간을 단축하고 고객 경험을 향상시키며, 지연 시간을 61% 줄이고 정확도를 22% 향상시킨다.

인포시스 코텍스(Infosys Cortex)는 생성 AI 기반의 컨택센터 전환 플랫폼이다. 인포시스 토파즈와 인포시스 클라우드 솔루션 스위트인 인포시스 코발트(Cobalt)를 활용해 인포시스 코텍스는 실감나는 고객 시뮬레이션을 생성하여 교육 중인 상담원이 완전히 몰입된 환경에서 기술을 연습할 수 있도록 한다.

이 솔루션들은 운영 효율성과 생산성 향상되고 생성AI 파이프라인과 추론 비용을 최적화하여 컨택센터 상담원 교육의 전체적인 경험을 향상시킬 수 있다.

인포시스의 통신, 미디어 및 기술 부문 글로벌 산업 리더인 아난드 스와미나단(Anand Swaminathan) 부사장은 "엔비디아와의 협력으로 최첨단 엔터프라이즈 AI 기능을 활용해 글로벌 조직이 비즈니스 효율성을 개선할 수 있도록 지원할 것이다. 엔비디아의 첨단 AI 기술을 인포시스 토파즈와 통합해 네트워크 서비스 설계, NOC 운영 및 컨택센터 기능의 혁신을 기대한다. 또한 AI의 안전하고 책임 있는 배포를 보장할 수 있을 것이다. 이번 협력은 고객을 위한 혁신과 운영 우수성을 추구하는 우리의 의지를 보여준다"고 말했다.

엔비디아 텔레콤 부문 수석 부사장 로니 바시쉬타(Ronnie Vasishta)는 "통신사들이 더 스마트한 네트워크, 더 효율적인 운영, 향상된 고객 서비스로 비즈니스 생산성을 높이기 위해 생성AI 솔루션을 점점 더 많이 채택하고 있다. 엔비디아의 풀스택 가속 컴퓨팅 및 AI 플랫폼을 활용하여 인포시스 토파즈는 통신사들이 생성 AI 채택을 가속화하고 간소화할 수 있는 도메인 특화 솔루션을 제공하고 있다"고 말했다.