전 세계적으로 생성AI와 자율 AI 에이전트가 기업 애플리케이션 환경 전반에 확산되면서, AI 기반 업무 자동화의 효율성과 함께 새로운 보안 위협도 증가하고 있다. 특히 자연어를 기반으로 한 AI 에이전트는 LLM과 데이터세트 접근 권한만으로 복잡한 워크플로를 신속히 실행할 수 있으나, 공격자 역시 이를 악용해 즉석 주입 공격, 툴 조작, 데이터 유출을 시도할 수 있다.

2025 스탠포드 AI 지수 보고서에 따르면 2024년 기업의 78%가 AI를 이미 사용 중이며, 스트라이커(Straiker)는 자체 조사에서 테스트된 애플리케이션의 75%가 직접 또는 간접적인 즉석 주입 공격에 취약하다고 밝혔다.

전방위 보안 강화하는 공격·방어 에이전트

AI 보안 기업 스트라이커(Straiker, CEO 안쿠르 샤)는 에이전트 AI 애플리케이션 보안을 위해 ‘어센드 AI(Ascend AI)’와 ‘디펜드 AI(Defend AI)’ 제품에 새로운 기능을 추가했다. 이번에 공개된 ‘공격 및 방어 에이전트’는 지속적인 보안 테스트, 자동화된 실행, 위협 추적 체인을 제공하며, 업계 최초로 공격·방어를 모두 포함한 에이전트 AI 위협 종합 솔루션을 구현했다.

어센드 AI는 자율적인 에이전트 기반 레드팀 구성을 통해 고도로 정확한 공격과 익스플로잇을 설계한다. 모든 프롬프트, 툴 호출, 데이터 흐름을 매핑하고 현실적인 익스플로잇 체인을 시뮬레이션해 위험을 식별하며, CI/CD 파이프라인과 통합해 지속적인 평가와 해결 지침을 제공한다.

디펜드 AI는 실시간 가드레일 엔진을 통해 도구 오용, 취약점 악용, 정찰, 과도한 자율성 등 에이전트 AI 애플리케이션을 겨냥한 위협을 즉시 차단한다. 코드 변경이나 지연 시간 증가 없이 프로덕션 환경에서 새로운 위협을 무력화할 수 있다.

스트라이커의 에이전트 보안의 세 가지 핵심 기능은 ▲지속적인 에이전트 기반 레드팀 구성을 통한 공격 경로 식별 및 대응 방안 제공 ▲실시간 에이전트 가드레일로 프로덕션 환경에서 위협 차단 ▲위협 사슬 포렌식으로 모든 프롬프트, 의사 결정, API 호출을 재구성해 근본 원인 분석과 감사, 이해관계자 보고 등이다.

피플 AI(People AI)의 CISO 아만 시로히(Aman Sirohi)는 “스트라이커의 AI 기반 레드팀은 실시간 악용과 악의적 행위로부터 AI 에이전트를 보호하는 가드레일을 제공해 고객 데이터 보안을 강화했다.”고 말했다.

엔터프라이즈DB(EnterpriseDB)의 CISO 댄 가르시아(Dan Garcia)는 “어센드 AI가 전체 에이전트 AI 스택을 스트레스 테스트해 수동 레드팀 구성으로는 찾을 수 없었던 공격 경로를 발견했다.”고 밝혔다. 한 핀테크 CISO는 “디펜드 AI를 몇 줄의 코드만으로 구현해 즉시 주입, 악성 코드, PII 유출 등 위협에 1초도 안 돼 대응할 수 있었다.”고 전했다.

스트라이커는 AI, 공격 테스트, 애플리케이션 보안팀 간의 보안 기능 통합을 통해 에이전트 AI 환경의 안전성을 강화하고 있다.

스트라이커 안쿠르 샤(Ankur Shah) CEO는 “말만 하면 자율 AI 에이전트를 구동하는 시대에는 자율적인 방어가 필요하다.”라며 “스트라이커의 AI 기반 보안은 실시간 학습, 적응, 대응이 가능하도록 설계돼 AI가 있는 미래도 안전하게 지킬 수 있다.”고 강조했다. 회사는 앞으로도 에이전트 기반 보안 기술을 고도화하고, 다양한 산업 환경에서 AI 보안 표준을 확립해 나갈 계획이다.

[알림] GTT KOREA GTT SHOW는 오는 8월 12일 오후 2시부터 3시까지 “피해 큰 BPF Door 같은 커널 기반 악성코드 막는 EDR과 마이크로세그멘테이션 실전 보안 전략”을 주제로 웨비나를 진행합니다. BPF Door 같은 커널 기반의 악성코드가 사용하는 공격 기법과 침투 단계별 위협의 소개, EDR과 마이크로세그멘테이션이 어떻게 상호보완적으로 작동하여 침입 초기 탐지부터 내부 확산 차단까지 이어지는 보안 체계의 구축 전략과 새로운 형태의 변종 공격에 유연하게 대응하는 제로 트러스트 기반 보안 전략을 실전 사례와 함께 제시합니다.