AI 시스템은 대량의 데이터를 수집하고 처리한다. 이 데이터에는 개인 식별 정보(PII)와 민감한 건강 정보(PHI)와 같은 민감한 데이터가 포함될 수 있어, 이와 같은 데이터를 보호하고, 프라이버시를 보장하기 위해 유럽의 GDPR, 미국의 CCPA 등 여러 국가 및 지역에서 이와 관련된 엄격한 법률과 규제를 시행하고 있다.

산업 전반에 걸쳐 AI 도입이 증가하는 현 상황에서, 조직은 사이버 공격이나 데이터 유출 등의 데이터 침해 사고로부터 데이터를 보호하며 프라이버시와 관련한 규정 준수를 보장하는 기술 및 방법이 시장의 이목을 끌고 있다.

글로벌 보안 기업 제로트러스티드에이아이(ZeroTrusted.ai)가 민감하고 규제가 엄격한 환경에서 AI 보안, 프라이버시 및 신뢰도 향상을 지원하는 자사의 RAG 및 에이전트 개발자 플랫폼의 기능 업데이트를 발표했다.

이 플랫폼은 엄격하게 규제된 환경에서 미션 크리티컬과 같은 민감한 작업을 지원하도록 제로트러스트를 기반으로 설계됐다. PII 및 PHI와 같은 민감한 데이터를 보호하기 위해 종단 간 보호를 보장한다.

이번 업데이트를 통해 실시간 모니터링을 지원한다. 특히 보안, 프라이버시, 시스템 신뢰성을 모니터링해 AI 모델 오용 또는 침해 등 거버넌스와 관련된 위험을 예방할 수 있다.

한편, 이 플랫폼은 타사의 AI 모델 및 RAG 시스템과 통합하는 ‘하이브리드 API 호환성’을 지원해 기존 프레임워크에 추가적인 보안 및 신뢰성 계층을 제공한다.

또한, 기존의 RAG 모델은 종종 확장성, 보안 및 민감하거나 수치적 데이터를 처리하는 데 어려움을 겪었다. 그러나 이 플랫폼은 여러 문서에 동시에 액세스하는 복잡한 데이터 세트를 처리하는 하이브리드 솔루션을 제공하며, 쿠버네티스 기반의 기능 확장이 가능한 독립형 웹 서비스를 통해 트래픽 안정성을 보장한다.

제로트러스트에이아이의 페미 파샤킨(Femi Fashakin) CTO는 “많은 AI 플랫폼은 일반적인 용도로 설계되었지만, 미션 크리티컬 또는 매우 민감한 작업을 처리할 수 없었다.”라며 “이번 업그레이드는 RAG 시스템의 표준 기능을 넘어, 주요 AI 구성 요소와의 원활한 통합을 가능하게 하면서 AI 모델을 실시간으로 모니터링하고 보호하기 위한 포괄적인 안전장치를 제공한다.”라고 전했다.