인공지능(AI)의 자율 운영이 기업 시스템에 빠르게 도입되면서, ‘에이전트 보안(Agentic Security)’이 새로운 사이버 보안 과제로 부상하고 있다. AI가 단순한 보조 도구에서 독립적 의사결정을 수행하는 단계로 진화함에 따라, 전통적인 통제 체계로는 예상치 못한 행위나 데이터 노출을 방지하기 어렵다. 이에 따라 AI 에이전트의 행동을 실시간으로 감시하고, 공급망 전체에서 위협을 검증하는 체계가 필수로 요구되고 있다.

글로벌 보안 분석 기업 뉴럴트러스트(NeuralTrust)는 이러한 변화 속에서 ‘2026년 AI 에이전트 보안 현황(State of AI Agent Security 2026)’ 보고서를 발표했다. 이번 연구는 북미, 유럽, 아시아 태평양, 라틴 아메리카 등 전 세계 160명 이상의 CISO와 보안 책임자를 대상으로 진행됐으며, 자율 AI 시스템의 확산에 따른 리스크 인식과 대응 수준을 평가했다.

73% “AI 에이전트가 가장 큰 위협”...성숙한 보호체계는 30% 미만

보고서에 따르면 CISO의 73%가 AI 에이전트 관련 위험을 ‘매우 심각하다’고 인식하고 있지만, 실제로 성숙한 보호체계를 갖춘 기업은 30%에 불과했다. 뉴럴트러스트의 성숙도 모델 기준으로 전체 응답 기업의 46%가 ‘반응형(reactive)’ 단계에 머물러 있었으며, 29%가 ‘관리형(managed)’ 단계, 사전 예방적 거버넌스를 달성한 조직은 10% 미만이었다.

뉴럴트러스트의 공동 창립자 겸 CEO 조안 벤드렐(Joan Vendrell)은 “AI 에이전트는 이제 대부분의 기업 운영에 통합되었지만, 이를 보호하는 보안 제어 체계는 아직 초기 단계에 있다”며 “AI 에이전트 보안은 현대 사이버 보안에서 가장 시급하고 복잡한 과제 중 하나”라고 말했다.

실제 침해 20%, 피해액은 최대 1000만 달러 이상

조사 결과, 응답 기업 중 5곳 중 1곳(20%)이 최소 한 건 이상의 AI 에이전트 관련 침해 사고를 경험한 것으로 나타났다. 주요 원인은 ‘프롬프트 주입(prompt injection)’과 ‘데이터 노출(data leakage)’이었다. 피해 기업의 40%는 재정 손실 규모를 100만~1,000만 달러로 추산했으며, 13%는 1,000만 달러를 초과할 것으로 예상했다. 이는 대규모 랜섬웨어 공격에 버금가는 피해 수준이다.

또한 전체 기업의 25%는 AI에 특화된 보안 통제 기능을 전혀 보유하지 않은 것으로 나타났다. 대부분의 기업이 여전히 사람 중심의 기존 보안 통제 시스템에 의존하고 있었으며, 이는 자율형 AI 시스템의 특성을 반영하지 못하는 것으로 분석됐다.

AI 행동 모니터링 42%, 공급망 검증은 16% 불과

AI 에이전트 보안 통제 방법으로는 활동 모니터링(42%), 액세스 제어(38%), 데이터 손실 방지(DLP, 31%)가 가장 많이 사용되고 있었다. 그러나 실제 공격을 시뮬레이션하는 ‘적대적 테스트(adversarial testing)’를 시행하는 기업은 19%에 불과했으며, AI 공급망 위험을 검증하는 기업은 16%로 낮았다.

뉴럴트러스트는 “AI 에이전트의 행동은 고정된 룰 기반 시스템과 다르게 예측 불가능하며, 기존 접근 제어나 DLP만으로는 내부적 의사결정 오류나 자동화된 오남용을 막기 어렵다”고 지적했다.

보고서는 2028년까지 전체 기업의 3분의 1이 500개 이상의 AI 에이전트를 운영하게 될 것으로 내다봤다. 2030년에는 절반 이상이 대규모 에이전트 생태계를 보유하게 되며, 이 시점에는 기업의 80%가 AI 관련 규제의 적용을 받게 될 것으로 예상된다. 또한 4분의 3의 조직이 전담 AI 보안 전문가를 고용할 것으로 전망됐다.

뉴럴트러스트는 “AI 도입의 다음 단계는 속도가 아니라 ‘신뢰(Trust)’에 의해 결정될 것”이라며 “에이전틱 시큐리티는 기업 신뢰의 전략적 기반이자, 자율성을 안전하게 활용하기 위한 핵심 역량이 될 것”이라고 밝혔다.

뉴럴트러스트 조사 결과는 기업들이 AI를 빠르게 도입하고 있지만, 이에 상응하는 보안 거버넌스는 뒤처지고 있음을 명확히 보여준다. AI 에이전트의 급속한 확산은 새로운 위협 모델을 만들어내고 있으며, 조직이 이를 사전에 통제하지 못할 경우 재정적·평판적 피해로 이어질 위험이 크다. 자율 시스템 시대의 보안 경쟁력은 ‘속도’보다 ‘신뢰’를 확보하는 기업이 결정하게 될 것으로 전망된다.