AI 에이전트는 다양한 산업 분야에서 활용할 수 있는 다용도 도구로 부상했다. 이러한 에이전트는 조직의 지식 기반에 연결돼 비즈니스 맥락을 이해한다. 질문 답변, 번역, 데이터 처리, 예측 분석, 자동화와 같은 AI 에이전트의 핵심 기능은 생산성을 높이고 시간과 비용을 절약하도록 맞춤화할 수 있다.

AI 컴퓨팅 기술 글로벌 기업 엔비디아(NVIDIA)가 미국 새너제이에서 열린 AI 및 가속 컴퓨팅 컨퍼런스 GTC에서 전 세계 기업과 기관이 클라우드 기반 AI 애플리케이션 개발 소프트웨어  ‘엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise)’로 구축된 AI 에이전트를 배포해 인간 역량을 강화하고 경제 성장을 가속화하고 있다고 21일 밝혔다. 

엔비디아 AI 엔터프라이즈로 구축된 AI 에이전트

엔비디아 AI 엔터프라이즈는 엔터프라이즈 AI 에이전트를 위한 기본 구성을 제공한다. 여기에는 새로운 ‘엔비디아 라마 네모트론(Llama Nemotron)’ 추론 모델 제품군과 모델의 효율적인 추론을 위한 ‘엔비디아 NIM 마이크로서비스’와 데이터 처리, 모델 맞춤화, 시스템 평가, 검색 증강 생성(RAG), 가드레일링을 위한 ‘엔비디아 네모(NeMo)’ 도구가 포함돼 있다.

또한, ‘엔비디아 블루프린트(Blueprint)’는 고성능 에이전틱 시스템 개발의 모범 사례를 보여주는 참조 워크플로다. 개발자는 AI-Q 엔비디아 AI 블루프린트를 통해, AI 에이전트를 추론 가능한 대규모 에이전틱 시스템으로 구축할 수 있다. 이 시스템을 엔터프라이즈 데이터에 연결해 복잡한 문제를 해결하고, 다른 도구를 활용하는 동시에 자율적인 협업과 운영을 지원한다.

다양한 산업에서 활용되는 AI 에이전트

엔비디아 AI 엔터프라이즈로 구축된 AI 에이전트는 다양한 산업에서 효율적인 업무를 지원하고 있다.

위키미디어 도이치랜드(Wikimedia Deutschland)는 엔비디아 AI로 구축된 데이터스택스 AI(DataStax AI) 플랫폼을 구축했다. 이를 통해 단 3일 만에 30배 빠른 수집 성능으로 1000만 개의 위키데이터(Wikidata) 항목을 처리하고 임베드할 수 있게 됐다. 

한편, AI 에이전트는 밎춤형 고객 서비스를 제공한다. 에이전트는 연중무휴 24시간 고객의 문의에 개인화된 응답을 제공한다. 이 덕분에 실제 상담원은 더욱 복잡한 문제를 해결하는 데 투입될 수 있다. 

지능형 라우팅 기능은 고객 요청을 분류하고 우선순위를 지정해 고객이 적합한 전문가에게 신속히 연결될 수 있게 한다. 또한, AI 에이전트의 예측 분석 기능은 문제를 예측하고 데이터 기반 인사이트를 통해 상담원의 역량을 강화해 사전 예방적 지원을 가능하게 한다. 

AT&T는 퀀티파이(Quantiphi)와 협력해 새로운 애스크 AT&T(Ask AT&T) AI 에이전트를 개발해 콜센터에 배포했으며, 콜센터 분석 비용을 84% 절감했다. 

오타와 병원(Ottawa Hospital)은 딜로이트(Deloitte)와 협력해 연중무휴 24시간 환자 관리 에이전트 팀을 배치했다. 이를 통해 캐나다 온타리오주 동부 지역에서 120만 명 이상의 환자를 대상으로 수술 전 지원을 제공하고, 예정된 수술에 관한 환자의 질문에 답변할 수 있다. 

이처럼 통신, 금융, 의료, 스포츠 등 다양한 산업 분야의 기업들은 이미 AI 에이전트를 활용해 막대한 이점을 누리고 있다. 이는 AI 에이전트가 모든 산업에서 핵심 업무 도구로 자리매김하고 있음을 보여준다.