생성AI 기술의 확산과 함께 챗봇을 비롯한 대규모 언어 모델(LLM)의 실제 운영 환경에서의 보안 검증 필요성이 급증하고 있다. 특히 기업들은 AI 응답의 신뢰성, 규정 준수, 프롬프트 악용 위험에 대한 사전 검증을 강화하고 있으며, 이를 위해 별도의 보안 전담 인력 또는 도구를 활용한 사전 테스트가 필수 요소로 자리 잡고 있다.

그러나 기존의 보안 테스트 솔루션은 설치 및 API 연동, 엔지니어링 리소스 요구 등 복잡한 절차로 인해 실무 적용에 장벽이 높았다. 이러한 배경에서 간단하고 직관적인 AI 보안 테스트 도구 필요성이 높아지고 있다.

AI 보안 솔루션 전문 기업 엔크립트 AI(Enkrypt AI)가 챗봇 보안 테스트 자동화 도구인 레이더(RAYDER)를 출시했다고 밝혔다. 이 도구는 브라우저 기반으로 동작하며, 설치나 API 연결 없이 즉시 보안 테스트를 실행할 수 있도록 설계되었다. 레이더는 보안팀, AI 개발자, 운영 전문가 모두를 대상으로, 생성AI 기반 시스템의 실제 사용자 인터페이스 수준에서의 보안 리스크를 평가할 수 있도록 지원한다.

레이더는 복잡한 백엔드 구성 없이 브라우저에서 바로 테스트를 실행할 수 있으며, AI 모델이 어떻게 응답하는지를 실시간으로 관찰하고 분석할 수 있다. 실제 사용자 시나리오를 기반으로 보안 테스트가 가능하다는 점에서, 사용자 경험 기반 보안 검증을 손쉽게 구현할 수 있다.

UI 기반 테스트와 AI 자동화 기능 통합

레이더의 가장 큰 차별화 요소는 '제로 설정' 환경에서 실행되는 사용자 인터페이스(UI) 기반 테스트와 AI 기반 자동화의 결합이다. 사용자는 몇 초 내에 레드팀 테스트를 시작할 수 있으며, 테스트 과정에서 AI는 컨텍스트에 따라 적절한 적대적 프롬프트를 생성하고, 보안 및 규정 준수 위험을 자동으로 식별해 리포트로 출력한다.

AI 기반 자동화는 단순히 테스트 입력을 생성하는 데 그치지 않고, 실제 모델 동작을 기반으로 위험 시나리오를 동적으로 조정한다. 이를 통해 챗봇 인터페이스, 콘텐츠 필터링 반응, 문맥 조정 능력 등을 종합적으로 평가할 수 있다. 이러한 접근은 기존 수동 중심의 레드팀 테스트와 달리 반복 가능하고 구조화된 방식으로 보안 수준을 검증하는 데 유리하다.

실행 가능한 보안 리포트와 규정 준수 검증

레이더는 보안 테스트 결과를 정량화하고, 규정 준수 및 감사 목적에 맞춰 구조화된 리포트를 자동 생성한다. 이 리포트는 보안 담당자뿐 아니라 감사 및 법무, 컴플라이언스 부서가 활용할 수 있도록 설계되었다. 주요 내용에는 위험 유형, 프롬프트 응답 분류, 민감 정보 노출 가능성, 우회 시도 감지 등이 포함된다. 이 기능은 AI 도입 조직이 내부 검토뿐 아니라 외부 감사 대응 시에도 유용하게 활용할 수 있다.

엔크립트 에이아이는 레이더를 단순한 기술 도구가 아닌, 투명하고 책임 있는 AI 생태계 형성을 위한 커뮤니티 중심 툴로 정의하고 있다. 회사는 “AI 안전성은 내부자뿐 아니라 누구나 테스트할 수 있어야 한다”는 철학을 기반으로, 브라우저 기반 테스트 환경을 통해 연구자, 레드팀 구성원, 일반 시민도 생성AI 시스템을 실제 환경에서 검증할 수 있도록 지원하고 있다.

회사 측은 레이더를 통해 기업은 물론 비영리 조직, 학술기관, 공공기관까지 다양한 조직이 AI 시스템을 사전에 검증하고, 보다 안전한 방식으로 배포할 수 있는 기반을 마련할 수 있다고 밝혔다.

기업과 조직을 위한 즉시 실행형 AI 보안 전략

레이더는 복잡한 설정 없이 빠른 테스트가 가능하며, 생성AI의 보안성을 평가하고 대응하는 데 필요한 핵심 기능을 모두 내장하고 있다. 이러한 점에서 대규모 언어 모델을 활용하는 기업, SaaS 기반 챗봇을 제공하는 스타트업, 생성AI 응용 제품을 개발하는 모든 조직에게 현실적이고 효율적인 보안 대응 수단이 될 수 있다.

엔크립트 에이아이는 향후 레이더 기능을 더욱 고도화해 LLM 취약점 데이터셋 확대, 산업별 테스트 템플릿 제공, 기업 맞춤형 규정 대응 기능 강화 등을 추진할 계획이다. 이를 통해 AI 보안 리스크를 조기에 발견하고, AI 신뢰성과 규정 준수 요건을 사전에 만족시키는 보안 프로세스를 글로벌 기업들에게 제공할 방침이다.

엔크립트 에이아이의 최고경영자 사힐 아가왈(Sahil Agarwal)은 “레이더는 브라우저에서 바로 동작하도록 설계된 최초의 생성AI 보안 테스트 툴로, 기술적 장벽 없이 강력한 결과를 제공하는 것을 목표로 했다”라며 “오늘날 생성AI가 실제 프로덕션 환경에서 운영되는 방식을 반영해 설계되었으며, 산업 전반에 걸쳐 AI 보안 도입을 가속화할 수 있는 기반을 제공한다”고 말했다.

[알림] GTT KOREA GTT SHOW는 오는 8월 12일 오후 2시부터 3시까지 “피해 큰 BPF Door 같은 커널 기반 악성코드 막는 EDR과 마이크로세그멘테이션 실전 보안 전략”을 주제로 웨비나를 진행합니다. BPF Door 같은 커널 기반의 악성코드가 사용하는 공격 기법과 침투 단계별 위협의 소개, EDR과 마이크로세그멘테이션이 어떻게 상호보완적으로 작동하여 침입 초기 탐지부터 내부 확산 차단까지 이어지는 보안 체계의 구축 전략과 새로운 형태의 변종 공격에 유연하게 대응하는 제로 트러스트 기반 보안 전략을 실전 사례와 함께 제시합니다.