멀티 에이전트 보안 기술은 사이버 위협이 갈수록 고도화되고 다양화됨에 따라 필요성이 커지고 있다. 기존 보안 시스템은 정적이고 단일한 위협 모델에 의존하여 새로운 취약점이나 복합적인 공격을 효과적으로 대응하지 못한다.

멀티 에이전트 기술은 서로 다른 전문성을 가진 AI 에이전트들이 협력해 복잡한 위협을 시뮬레이션하고, 선제적으로 방어 전략을 수립함으로써 실시간 대응과 예측 능력을 강화한다. 이는 조직이 신속히 적응하고 보다 안전한 디지털 환경을 유지하는 데 필수적이다.

후지쯔는 자사의 AI 서비스인 후지쯔 고주치(Fujitsu Kozuchi)의 핵심 기술로 다중 AI 에이전트 보안 기술을 개발했다고 발표했다. 이번 기술은 사이버 공격, 보호 전략, 비즈니스 연속성 조치를 시뮬레이션하여 새로운 위협과 취약점에 대한 선제적 보안 조치가 가능하다. 이는 기업과 공공 조직이 직면한 보안 과제를 해결하고, 보다 신뢰할 수 있는 디지털 환경을 조성하는 데 중점을 두었다.

이번 기술은 보안 AI 에이전트, 다중 AI 에이전트 협업, 생성AI 보안 강화라는 세 가지 주요 구성 요소로 이루어져 있다. 각 기술은 상호 작용하며, 복잡한 사이버 보안 문제를 보다 효율적이고 정확하게 해결할 수 있도록 설계되었다.

보안 AI 에이전트, 새로운 위협에 선제적 대응

보안 AI 에이전트는 공격, 방어, 테스트라는 세 가지 역할을 수행하는 에이전트로 구성된다

공격 AI 에이전트는 TTP(전술, 기술, 절차) 유사 엔진을 사용해 새로운 위협에 대비한 공격 시나리오를 생성한다. 이를 통해 기존 보안 체계를 뛰어넘는 혁신적인 공격 방식을 시뮬레이션할 수 있다.

방어 AI 에이전트는 조직의 위험 프로파일에 기반해 최적의 방어 전략을 제안한다. 각 조직의 보안 요구 사항과 위험 수준에 맞춘 맞춤형 방어 계획을 수립할 수 있다.

테스트 AI 에이전트는 실제 시스템을 기반으로 가상 환경(디지털 트윈)을 자동 생성하여 방어 조치의 효과를 검증한다. 이는 공격 및 방어 시뮬레이션을 통해 새로운 취약점에 대한 선제적 방어 전략을 수립할 수 있도록 돕는다.

이들 에이전트는 협력 학습(co-creative learning) 방식을 통해 상호작용하며, 복잡하고 알려지지 않은 문제를 공동으로 해결하는 역량을 갖추고 있다.

다중 AI 에이전트 협업, 데이터 보호와 원활한 통합

다중 AI 에이전트 협업 기술은 각기 다른 AI 에이전트 간의 원활한 협력을 지원한다. 특히 보안 외에도 다양한 응용 분야에 활용 가능하며, 데이터 기밀성, 개인 정보 보호, 조직 정책 준수 등을 보장하는 데 초점을 맞췄다.

후지쯔는 AI 에이전트 인프라 내 안전한 에이전트 게이트웨이 조정 기능을 구현하여 AI 에이전트 개발자가 데이터 보호 및 정책 준수 문제를 신경 쓰지 않아도 협업이 가능하도록 했다. 이 기술은 AI 간 협업 과정에서 발생할 수 있는 데이터 노출 위험을 방지하며, 조직의 규정을 자동으로 준수하는 환경을 제공한다.

생성AI 보안 강화, LLM 보호

생성AI의 보안 강화를 위해 후지쯔는 LLM 취약점 스캐너와 LLM 가드레일을 개발했다.

LLM 취약점 스캐너는 3500개 이상의 최신 취약점을 자동으로 검사하며, 생성AI에서 발생할 수 있는 코딩 취약점을 포함한 다양한 보안 문제를 식별한다. 이 스캐너는 적응형 프롬프트 기술을 사용해 최적의 공격 시나리오를 평가하고, 비보안 전문가도 쉽게 이해할 수 있도록 취약점을 설명한다.

LLM 가드레일은 악성 프롬프트를 탐지하고 이를 차단해 성AI의 안전한 운영을 보장한다. 이 두 기술은 보안 AI 에이전트와 통합되어 IT 시스템 내에서 생성AI를 보다 안전하게 사용할 수 있도록 돕는다.

후지쯔는 2024년 12월부터 코히어(Cohere)와 협력하여 생성AI 보안 강화 기술에 대한 현장 실험을 진행하며, 2025년 1월에는 카네기 멜론 대학의 지원을 받아 개발된 AI 에이전트 플랫폼 오픈핸즈(OpenHands)를 통해 다중 AI 에이전트 협업 기술의 일부를 오픈소스로 공개할 계획이다. 2025년 3월부터는 전체 기술 패키지를 글로벌 시장에 제공하며, 이를 시험적으로 운영할 예정이다.

후지쯔는 다중 AI 에이전트를 활용한 보안 설계, 사고 대응, 보안 감사와 같은 작업을 자동화하고, RAG 응용 분야에서 발생하는 취약점을 해결하는 기술을 추가 개발할 예정이다.