AI 챗봇은 생성AI를 사용해 사람이 질문을 하면 챗봇은 자연어 처리로 단일 상호 작용에 기반해 답변한다. 그러나 인공지능은 더 나아가 스스로 목표를 설정하고 문제 해결 계획을 세우는 ‘에이전틱 AI(Agentic AI)’로 발전하고 있다. 이로 인해 인공지능은 정교한 추론과 반복적인 계획으로 복잡한 다단계 문제를 자율적으로 해결할 수 있게 됐으며, 이는 산업 전반의 생산성과 운영을 향상시킬 것으로 예상된다.

AI 컴퓨팅 기업 엔비디아가 기업들의 ‘에이전틱 AI’ 구축 돕는 도구 및 소프트웨어를 제공해 기업 혁신과 생산성 향상 지원한다고 31일 밝혔다.

‘에이전틱 AI 시스템’은 다양한 출처에서 대규모 데이터를 수집해 독립적으로 문제 분석하고 최적화 전략을 수립하며, 공급망 효율화, 사이버 보안 취약성 분석, 반복적인 의료 업무 지원 등을 수행한다.

‘인식부터 행동까지’, 에이전틱 AI의 문제 해결 프로세스

에이전틱 AI는 문제 해결 프로세스는  인식, 추론, 행동, 학습의 4단계로 진행된다.

우선 인식(Perceive) 단계에서 AI 에이전트는 센서, 데이터베이스, 디지털 인터페이스 등 다양한 출처에서 데이터를 수집하고 처리한다. 여기에는 의미 있는 특징을 추출하고, 객체를 인식하거나, 환경 내 관련 개체를 식별하는 작업이 포함된다.

추론(Reason) 단계에서는 거대 언어 모델(Large Language Model, LLM)은 작업을 이해하고, 솔루션을 생성하며, 콘텐츠 제작, 비전 처리, 추천 시스템과 같은 특정 기능을 위한 전문 모델을 조율하는 역할을 하는 추론 엔진의 역할을 한다. 이 단계에서는 검색 증강 생성(retrieval-augmented generation, RAG)과 같은 기술을 사용해 독점 데이터 소스에 접근하고 정확하고 관련성 있는 출력을 제공한다.

행동(Act) 단계에서는 API로 외부 도구, 소프트웨어와 통합해 수립한 계획에 따라 작업을 신속하게 실행할 수 있다. 또한, AI 에이전트가 작업을 올바르게 실행할 수 있도록 가드레일을 설정할 수 있다. 예를 들어, 고객 서비스 AI 에이전트는 특정 금액까지만 클레임을 처리할 수 있고, 그 금액을 초과하는 클레임은 사람의 승인이 필요할 수 있다.

학습(Learn) 단계에서는 피드백 루프 혹은 상호작용에서 생성된 데이터를 시스템에 공급해 모델을 개선하는 '데이터 플라이휠(data flywheel)'을 통해 지속적으로 개선된다. 시간에 따라 적응하고 더욱 효과적으로 발전하는 이러한 능력은 비즈니스에 더 나은 의사 결정과 운영 효율성을 촉진하는 강력한 도구를 제공한다.

기업 데이터로 강화되는 ‘에이전틱 AI’

생성AI는 산업과 직무의 대규모 데이터를 업무에 바로 활용할 수 있는 정보로 바꿔 조직 혁신을 돕고, 직원의 업무 효율을 높인다. AI 에이전트는 ‘AI 쿼리 엔진’으로 다양한 데이터를 처리, 저장, 검색해 생성AI 모델을 학습시킨다. 특히, RAG는 AI가 더 많은 데이터 소스를 활용할 수 있게 해준다.

AI 에이전트는 점진적으로 상호작용을 생성된 데이터를 시스템에 피드백해 데이터 플라이휠을 생성해 학습하고 개선된다. 이 과정은 모델을 정제하고 효과성을 높인다.

한편, ‘네모(NeMo) 마이크로서비스’를 포함한 엔비디아의 엔드투엔드 AI 플랫폼은 데이터 관리 및 접근으로 반응형 에이전틱 AI 애플리케이션을 구축하는 데 필수적인 기능을 지원한다.

다양한 산업의 생산성과 운영을 혁신

에이전틱 AI는 창의성과 전문성에 따라 다양한 분야에서 활용될 수 있으며, 콘텐츠 생성과 배포부터 엔터프라이즈 소프트웨어 조율 등 복잡한 분야에도 효과를 발휘한다.

AI 에이전트는 셀프 서비스 개선과 일상적인 커뮤니케이션 자동화 등으로 고객 서비스를 강화한다. 엔비디아에 따르면, 서비스 전문가의 절반 이상이 고객과의 상호작용이 개선돼 응답 시간이 단축되고 만족도가 향상됐다고 응답했다.

또한, 디지털 휴먼에 대한 관심도 높아지고 있다. 이는 브랜드를 구현하고 사실감 있는 실시간 상호작용으로 고객 문의 답변을 돕거나 통화량이 많을 때 문제를 직접 해결할 수 있는 AI 기반 에이전트 역할을 한다.

에이전틱 AI는 고품질 맞춤형 마케팅 콘텐츠를 신속하게 제작할 수 있다. 마케터는 생성AI 에이전트를 사용시 콘텐츠당 평균 3시간을 절약할 수 있어 다른 전략에 집중할 수 있다. 콘텐츠 제작을 간소화로 기업은 경쟁력을 유지하면서 고객 참여를 향상시킬 수 있다.

그 밖에, 대규모 의료와 환자 데이터를 분석하는 의사들에게 AI 에이전트는 중요한 정보를 추출하며 더 나은 진료 결정을 내릴 수 있게 한다. 의사는 행정 작업 자동화로 환자 진료 시 임상 기록을 기록해 많은 시간이 걸리는 작업의 부담을 줄이고 환자와의 관계에 집중할 수 있다. AI 에이전트는 24시간 지원으로 처방된 약물 사용법, 예약 일정, 알림 등을 통해 환자가 치료 계획을 준수하게 돕는다.

엔비디아의 에이전틱 AI는 다양한 도구 및 소프트웨어와 상호작용하며 생산성 향상과 조직의 운영 혁신을 지원한다. 엔비디아 ‘NIM 에이전트 블루프린트(NIM Agent Blueprint)’는 샘플 애플리케이션, 참조 코드, 샘플 데이터, 도구, 종합 설명서를 포함한다. 액센츄어(Accenture) 등 엔비디아 협력 기업은 NIM 에이전트 블루프린트로 구축된 솔루션으로 고객이 에이전틱 AI를 사용할 수 있게 한다.