AI 기술이 자율적이고 인지적인 의사결정을 가능케 하면서, 기업 내 AI 에이전트의 활용이 급속도로 증가하고 있다. 특히 생성AI 기반의 에이전트형 기술은 고객 응대, 데이터 처리, 내부 의사결정 보조 등 다양한 업무를 수행하며 조직의 혁신을 견인하고 있다.

그러나 이들 AI 에이전트는 인간과 유사한 수준의 시스템 접근 권한을 요구하며, 민감 정보에 대한 무분별한 접근과 행동 예측 불가능성으로 인해 새로운 보안 위협으로 부상하고 있다. 시장에서는 이와 같은 AI 에이전트의 확산이 보안 거버넌스의 근본적 재설계를 요구하는 전환점이 될 수 있다는 경고가 제기되고 있다.

AI 에이전트 보안 위험, 인식은 높지만 대응은 미흡

엔터프라이즈 아이덴티티 보안 전문 기업 세일포인트 테크놀로지 홀딩스(SailPoint Technologies Holdings, 이하 세일포인트)는 ‘AI 에이전트: 보안의 새로운 공격 표면’ 보고서를 통해, AI 에이전트의 확산과 이에 따른 보안 우려를 분석했다.

보고서에 따르면 전체 기업의 82%는 이미 AI 에이전트를 활용하고 있지만, 관련 보안 정책을 갖춘 곳은 44%에 불과했다.

응답자의 96%는 AI 에이전트를 보안 위협으로 인식하고 있으며, 72%는 AI 에이전트가 기존 머신 아이덴티티보다 더 큰 위협이 된다고 판단했다. 그럼에도 98%의 기업이 향후 1년 내 AI 에이전트 활용을 확대하겠다고 응답해, 기술 활용과 보안 우려가 공존하는 복잡한 양상을 보이고 있다.

AI 에이전트의 보안 위협 요소로는 ▲기밀 데이터 접근 능력(60%) ▲의도치 않은 행동 가능성(58%) ▲기밀 정보 공유(57%) ▲부정확한 데이터 기반 의사결정(55%) ▲부적절한 정보 접근 및 공유(54%) 등이 꼽혔다. 이는 AI 에이전트가 인간과 유사한 판단 능력을 가졌음에도 불구하고, 관리 체계는 여전히 미흡하다는 점을 시사한다.

독립된 아이덴티티로서 AI 에이전트 관리 필요

세일포인트는 AI 에이전트를 자율적 의사결정과 행동이 가능한 독립 시스템으로 정의하며, 이를 기존의 머신 아이덴티티와 구분된 새로운 아이덴티티 유형으로 간주했다. 이들은 데이터를 수집·활용하며 하위 에이전트를 생성하는 등 보안 위협의 복잡성을 증가시키고 있다.

보고서에 따르면, AI 에이전트가 실제로 자격 증명을 탈취한 사례가 23%에 달했으며, 기업의 80%는 AI 에이전트가 ▲비인가 시스템 접근(39%) ▲부적절한 데이터 공유(33%) ▲민감한 콘텐츠 다운로드(32%) 등 예기치 못한 행동을 한 바 있다고 답했다. 이는 AI 에이전트의 행동을 통제할 수 있는 체계적 거버넌스의 부재를 의미한다.

응답자의 92%는 AI 에이전트 거버넌스가 기업 보안에 필수라고 응답했으며, 세일포인트는 모든 AI 에이전트를 탐지하고, 통합 가시성을 제공하며, 제로 스탠딩 권한 원칙을 적용하고, 감사를 가능하게 하는 통합 아이덴티티 보안 솔루션의 도입을 권고했다. 이러한 시스템은 기업이 규제 요건을 충족하면서도 보안을 강화하는 데 기여할 수 있다.

찬드라 나나삼반담(Chandra Gnanasambandam) 세일포인트 제품 부문 수석부사장 겸 최고기술책임자(CTO)는 “AI 에이전트는 민감한 시스템과 데이터에 대한 광범위한 접근 권한을 갖고 있으나, 이에 대한 감독은 매우 제한적이다”라며, “높은 권한과 낮은 가시성의 조합은 공격자들에게 최적의 표적이 된다”고 지적했다. 그는 “AI 에이전트도 인간처럼 실시간 권한 관리와 최소 권한 원칙, 활동 가시성 등을 기반으로 한 아이덴티티 중심 거버넌스가 필요하다”고 강조했다.