생성AI 기술을 제품에 도입하는 스타트업과 중견 기술 기업이 늘어나면서, 기존의 애플리케이션 보안(AppSec)으로는 대응하기 어려운 새로운 보안 위협이 빠르게 확산되고 있다.

오픈소스 기반의 대형 언어모델(LLM)을 활용한 코파일럿이나, 랭체인(LangChain)·크루(Crew)AI 기반의 자율형 에이전트처럼 고도화된 AI 기능은 개발 생산성을 높이고 있지만 동시에 프롬프트 주입, 데이터 유출, 비인가 명령 실행 등 새로운 공격 벡터를 만들어내고 있다. 이와 함께 GDPR, HIPAA, ISO 42001 등의 규제를 충족해야 하는 컴플라이언스 리스크도 함께 증가하고 있다.

사이버 보안 전문 기업 에브릭스(Ebryx)가 LLM 및 AI 에이전트 보호에 특화된 보안 서비스 제품군 ‘LLMSec’을 출시했다고 밝혔다.

프롬프트 주입부터 공급망 위협까지 대응

LLMSec은 생성AI가 상용 환경에 배포되면서 발생하는 고유의 위협 요소를 해결한다. ▲프롬프트 및 입력 보호 ▲명령 접근 제어 ▲모델 응답 모니터링 ▲API 및 벡터스토어 보호 ▲개인정보·규제 준수 모니터링 ▲ 24시간 위협 탐지 및 대응 등 총 6가지 주요 서비스를 모듈 형태로 제공한다.

또한, OWASP LLM Top 10, NIST SP 800-218A의 보안 지침 및 MITRE ATLAS 기반의 공격 전술 정보를 토대로 구성됐다. 특히 프롬프트 주입 및 탈옥 공격에 대응하는 실시간 방어, AI 에이전트의 안전 경계 설정, 벡터 DB 및 오케스트레이션 계층 보안 등, LLM 환경에서만 발생하는 보안 문제에 특화됐다.

이 서비스는 소프트웨어 개발 생명주기(SDLC) 및 생성AI 인프라에 직접 통합할 수 있으며, 각 기업의 도입 상황에 맞춰 ▲AI 파일럿 및 MVP용 ‘스타터 쉴드(Starter Shield)’, ▲상용 운영 단계의 ‘그로스 가드(Growth Guard)’, ▲보안이 중요한 환경 또는 규제 산업에 적합한 ‘엔터프라이즈 에지(Enterprise Edge)’ 등 3가지 패키지로 제공된다.

에브릭스 아라르 나크비(Ahrar Naqvi) CEO는 “AI 팀들은 빠르게 움직이지만, 그에 맞는 보안 장치는 부족한 경우가 많다. LLMSec은 생성AI 도입 속도를 늦추지 않으면서도 보안 측면에서 필요한 전문 서비스를 제공하는 것이 핵심”이라고 말했다.