생성AI의 급속한 확산은 기업 LLM과 AI 애플리케이션의 활용을 확대하는 동시에 보안 위협도 심화시키고 있다. 프롬프트 인젝션, 탈옥 공격, API 취약점 등 새로운 형태의 위협은 기업 데이터 보호와 규정 준수에 직결되는 문제로 부상했다. 이에 따라 AI 모델 자체와 이를 사용하는 앱·에이전트의 안전성을 확보할 수 있는 보안 기술이 필수 요소로 자리 잡고 있다. 기업들은 기존 IT 보안 도구만으로는 AI 특유의 위협에 대응하기 어렵기 때문에, 실시간 탐지·차단과 함께 사전적 취약점 점검을 제공하는 전문 솔루션을 필요로 하고 있다.

보안 AI 지원 전문 기업 위트니스AI(WitnessAI, CEO 릭 카시아)가 새로운 AI 보안 제품 위트니스 어택(Witness Attack)과 위트니스 프로텍트(Witness Protect)를 발표했다.

위트니스 어택은 대규모 언어 모델(LLM)의 배포 전 취약점을 사전에 식별하도록 설계된 자동화 레드팀 구성 도구다. 이 도구는 다중 모드 공격, 다단계 탈옥, 포괄적 퍼징, API 통합, 강화 학습 공격 등 다양한 공격 시뮬레이션을 수행해 모델 방어력을 스트레스 테스트한다. 합성 프롬프트 기반의 자동 생성 공격 시나리오를 통해 개발자는 LLM이 직면할 수 있는 실제 위협을 배포 전부터 점검할 수 있다. 이를 통해 기업은 모델이 운영 환경에 투입되기 전에 방어 능력을 강화하고 규정 위반 및 잠재적 위험 요소를 줄일 수 있다.

위트니스 프로텍트는 런타임 환경에서 프롬프트 인젝션과 탈옥 공격을 방어하는 차세대 AI 방화벽이다. 이 솔루션은 행동 기반 프롬프트 필터링, 의도 기반 대응 제어, 실시간 데이터 삭제, 위협 탐지, 독성 필터링, 모델 ID 적용 기능을 제공한다. 또한 2년간 축적된 합성 프롬프트 데이터와 지속적인 대화형 공격 데이터를 활용해 업계 최고 수준의 방어 성능을 확보했다. 위트니스AI에 따르면 위트니스 프로텍트는 프롬프트 인젝션을 99% 이상 효과적으로 탐지하며, 100가지 이상의 LLM 유형을 지원한다. 이 솔루션은 다양한 모델 환경에서 표준화된 보호 기능을 제공하며 개발자가 간편하게 적용할 수 있는 API로 운영 편의성을 보장한다.

이번 위트니스 어택과 위트니스 프로텍트 출시로 위트니스AI 플랫폼은 안전한 AI 개발, 규정을 준수하는 직원 AI 사용, 안전한 모델 및 애플리케이션 런타임 운영을 아우르는 포괄적 보안 기능을 갖추게 됐다. 이는 다수의 보안 솔루션을 병행 구매하지 않고도 기업 AI 보안 및 거버넌스 요구사항을 충족할 수 있도록 설계됐다.

위트니스AI의 CEO 릭 카시아(Rick Caccia)는 “기업들은 직원과 고객이 AI를 안전하게 사용할 수 있도록 다섯 가지 제품을 따로 구매하고 싶어 하지 않는다. 위트니스 어택은 내부적으로 개발한 모델, 앱, 에이전트를 자동으로 테스트·강화할 수 있으며, 위트니스 프로텍트는 모델 공격에 대한 방어력을 한층 강화다. 이미 기존 보안 업체의 AI 방화벽을 대체하기 위한 고객 평가가 진행 중이다.”라고 밝혔다.

생성AI 확산으로 인해 기업 LLM과 AI 애플리케이션 보안은 선택이 아닌 필수 과제가 됐다. 위트니스AI는 자동화된 레드팀 도구와 런타임 방화벽을 결합해 엔터프라이즈 보안 요구에 대응하고 있다.위트니스 어택은 배포 전 사전 검증 기능을, 위트니스 프로텍트는 실시간 방어 기능을 제공해 기업의 AI 생태계 전반을 보호한다. 이로써 위트니스AI는 글로벌 기업이 AI를 안전하게 활용할 수 있는 토대를 마련하며 차세대 AI 보안 시장을 선도하고 있다.