AI와 대규모 언어 모델(LLM)의 빠른 확산에 따라, 이를 구동하는 인프라 환경에서 보안과 성능 요구가 동시에 증가하고 있다. 특히 AI 애플리케이션은 민감 정보 처리와 외부 노출이 빈번해 프롬프트 인젝션, 취약점 공격 등의 위협에 노출되고 있다. 이에 따라 실시간 보호 기능과 예측 가능한 인프라 안정성이 핵심 요구사항으로 부상하고 있다.

보안 및 인프라 솔루션 기업 A10 네트웍스(A10 Networks)가 고성능 AI 및 LLM 추론 환경을 위한 새로운 보안 솔루션을 발표했다. 이 솔루션에는 AI 방화벽(AI Firewall)과 예측 성능(Predictive Performance) 기능을 중심으로, AI 기반 인프라에서의 보안성과 복원력을 향상시키는 기술이 포함돼 있다.

AI 방화벽으로 LLM 인프라 보안 강화

A10은 API 및 URL 기반 LLM 운영 환경에 배포 가능한 AI 방화벽 기술을 선보였다. 이 기술은 오픈AI(OpenAI), 앤트로픽(Anthropic) 등 상용 LLM뿐 아니라, 맞춤형 LLM에도 적용 가능하며, GPU 기반 엣지 최적화 아키텍처를 바탕으로 고성능 보안을 구현한다. 기존 인프라에 추가 보안 계층으로도 통합할 수 있다.

AI 방화벽은 A10의 독자적 LLM 보호 기술을 통해 모델의 알려진 취약점 여부를 사전 테스트할 수 있다. 프롬프트 수준에서 요청 및 응답 트래픽을 검사하고, 보안 정책을 적용해 프롬프트 인젝션이나 민감 정보 유출 같은 AI 특화 위협을 탐지·완화한다. 이는 기업이 AI 추론 모델을 안전하게 운영할 수 있는 기반을 제공한다.

예측 성능 기능으로 인프라 복원력 확보

A10의 예측 성능 기능은 AI 및 LLM 기반 애플리케이션에 대한 실시간 성능을 제공하는 기술이다. TLS/SSL 복호화, 캐싱, 트래픽 라우팅 최적화 같은 고부하 연산을 오프로드하여, 전체 네트워크 성능을 향상시키고 복잡성을 완화한다.

해당 기능은 GPU 기반 A10 어플라이언스에서 실행되며, 대규모 데이터를 분석해 네트워크 이상 징후를 조기에 감지할 수 있다. 이는 네트워크 혼잡이나 용량 부족 현상을 사전 예측해 다운타임을 방지하고, 안정적인 인프라 계획 수립에 기여한다. A10은 이를 일종의 조기경보 시스템으로 설명했다.

이러한 보안 및 성능 최적화 기술을 통해 기업은 위협 탐지 정확도를 높이고, 고객 경험 품질을 유지할 수 있다. A10은 관리 편의성과 인텔리전스를 동시에 제공해 AI 인프라 운영 복잡성을 줄이는 데 초점을 맞추고 있다.

드루파드 트리베디(Dhrupad Trivedi) A10 네트웍스 사장 겸 CEO는 “AI 및 LLM 추론 모델이 온프레미스와 클라우드 전반에서 빠르게 확산되고 있다”며, “지연 시간, 보안, 운영 복잡성을 해결하는 기능이 필수적”이라고 강조했다. 트리베디 CEO는 A10이 지난 20년간 애플리케이션 보호와 전달 분야에서 쌓은 경험을 바탕으로 AI 인프라 보안 역량을 계속 확장하고 있다고 밝혔다.