기업들은 AI 도입에 대한 기대가 높지만, 개념 검증(POC)을 넘어 실제 비즈니스에 활용 가능한 수준으로 확장하는 데 어려움을 겪고 있다. 특히 산업 특화 모델, 실시간 대응이 가능한 에이전트 시스템, 강력한 인프라 등의 요소가 유기적으로 결합되지 못하면서 기업의 AI 전환 속도는 더뎌지고 있다. 이를 해결하기 위해 전문 기술과 생태계 전반을 통합 제공하는 플랫폼에 대한 수요가 커지고 있다.

글로벌 IT 서비스 및 컨설팅 기업 코그니전트(Cognizant)가 엔비디아(NVIDIA)와 협력해 멀티에이전트 오케스트레이션 플랫폼 ‘뉴로(Neuro) AI 플랫폼’의 생성AI 도입을 가속하는 기술 업데이트를 발표했다. 

코그니전트 솔루션에 적용된 엔비디아 AI 기술 5대 핵심 분야

이 플랫폼은 엔터프라이즈 AI 에이전트, 산업별 LLM, 디지털 트윈, AI 인프라 등 5개 핵심 분야에서 엔비디아 AI 기술 기반으로 기업의 AI 도입을 가속화하는 것을 목표로 한다.

① 엔터프라이즈 AI 에이전트화 

코그니전트는 엔비디아 NIM 마이크로서비스를 기반으로 한 ‘뉴로 AI 멀티 에이전트 액셀러레이터(Neuro AI Multi-Agent Accelerator)’를 통해 기업이 멀티 AI 에이전트를 빠르게 구축하고 확장할 수 있는 프레임워크를 제공한다.

이 프레임워크는 적응형 운영, 실시간 의사 결정, 개인화된 고객 경험을 지원하며, 로우코드 방식으로 에이전트를 쉽게 설계하고 조정할 수 있다. 또한, 사전 구축된 산업별 에이전트 네트워크를 활용하거나 타사의 에이전트 및 다양한 LLM과 통합이 가능하여, 복잡한 기업 환경에서도 유연하고 신속한 AI 시스템 도입을 가능하게 한다.

② 규모에 맞는 멀티 에이전트 구축

코그니전트는 멀티 에이전트 시스템을 엔비디아의 다양한 기술 요소들(NIM, Blueprints, Riva 음성 AI 등)과 통합하여 기업의 비즈니스 운영을 향상시키기 위한 미래 지향적 아키텍처를 구축하고 있다.

이 아키텍처는 모듈형 구조와 적응형 설계를 바탕으로 하며, 보안 가드레일과 인적 감독 기능이 사전 통합되어 있어 안전성과 신뢰성을 동시에 확보한다. 고객은 사전 구축된 에이전트 카탈로그를 이용해 보험, 공급망, 계약 관리 등 다양한 산업용 애플리케이션을 맞춤형으로 개발하고 신속히 시장에 출시할 수 있다.

③ 산업 특화 대규모 언어모델(LLM)

코그니전트는 엔비디아 NeMo 및 NIM 기반 기술을 활용하여 산업별 요구에 특화된 대규모 언어모델(LLM)을 개발하고 있다. 예를 들어, 의료 산업에서는 행정 프로세스를 자동화하고 정확도를 높이기 위해 미세 조정된 LLM을 적용했다.

이 모델은 의료 코드 추출 정확도를 개선하고 오류를 줄이며, HIPAA 및 GDPR 같은 보안·개인정보보호 기준 준수를 지원한다. 코그니전의 내부 벤치마크에 따르면, 이 모델은 업무 시간 30~75% 단축, 정확도 30~40% 향상, 제품 출시 시간 40~45% 단축이라는 효과를 거둔 것으로 나타났다.

④ 산업용 디지털 트윈

코그니전트는 엔비디아 옴니버스(Omniverse) 기술을 활용하여 제조와 공급망 환경에서 디지털 트윈을 구현하는 솔루션을 제공하고 있다. 이 시스템은 합성 데이터 생성, 가속 컴퓨팅, 물리적 AI 시뮬레이션 기술을 결합하여 플랜트 운영 시나리오를 실시간으로 시뮬레이션하고 분석할 수 있도록 한다.

이를 통해 플랜트 레이아웃 개선, 운영 효율성 증대, 자본 지출 최적화 등의 효과를 기대할 수 있으며, 공장뿐 아니라 스마트 그리드, 물류창고, 도시 수준의 복합 시스템에도 정밀하고 효과적인 디지털 트윈을 구축할 수 있다.

⑤ AI를 위한 인프라 제공

AI 도입을 위해 필요한 강력한 인프라와 데이터 기반을 제공하기 위해, 코그니전트는 엔비디아 기술 기반으로 한 ‘GPUaaS(GPU as a Service)’를 통해 다양한 환경에서의 AI 실행을 지원한다. 이 인프라는 클라우드, 데이터센터, 엣지 환경에서 모두 활용 가능하며, 고성능 GPU 자원을 안전하고 안정적으로 사용할 수 있다.

또한, 아파치 스파크(Apache Spark)용 엔비디아 RAPIDS 가속기를 통해 데이터 처리 속도를 향상시켜 AI 모델 학습과 운영을 더욱 빠르고 효율적으로 수행할 수 있다. 실제로 미국의 한 대형 의료기관에서는 이 인프라를 통해 비용 효율성이 2.7배, 스파크 워크로드 성능이 1.8배 향상되는 효과를 경험했다.