에이전트 기반 AI는 비즈니스 프로세스를 간소화할 수 있는 잠재력을 가지고 있으나, 의도치 않은 민감 데이터 접근 또는 유출이라는 새로운 위험이 존재한다. 또한 세분화된 접근 제어 및 강력한 데이터 거버넌스 구현 없이는 이러한 지능형 에이전트가 필요한 권한이 없는 직원 또는 사용자에게 기밀 데이터를 실수로 노출할 수 있다.

최근 EY 조사에 따르면 응답자의 80%가 AI 기술을 통한 사이버 공격 가능성에 우려를 표명했다. 이러한 배경에서 AI 에이전트 사용 시 민감 정보의 의도치 않은 노출을 막고, 안전하고 책임감 있는 데이터 활용을 지원하는 전문적인 보안 솔루션의 필요성이 급증하고 있다.

글로벌 데이터 보안 기업 센트라(Sentra)가 클라우드 기반 플랫폼 내에서 마이크로소프트 코파일럿 스튜디오(Microsoft Copilot Studio), 아마존 베드록(Amazon Bedrock), 오픈AI 챗GPT 엔터프라이즈(OpenAI ChatGPT Enterprise) 등을 지원하는 AI 에이전트용 데이터 보안 솔루션을 출시했다.

이 솔루션은 급증하는 AI 어시스턴트와 관련된 새로운 과제를 해결하고 대기업이 AI 혁신을 안전하고 책임감 있게 수용할 수 있도록 설계되었으며, 센트라의 데이터 보안 태세 관리(DSPM) 기반으로 AI 도입이 안전하고 규정을 준수하도록 보장하는 동시에, 책임감 있는 데이터 사용을 촉진한다.

AI 에이전트가 ID 기반 접근 규칙을 꼼꼼하게 시행하고 민감한 정보 유출을 모니터링해 무단 공개를 방지하고 취약점을 직접적으로 해결한다.

AI 코파일럿 및 지식 기반에 대한 포괄적인 보호

센트라의 AI 에이전트 데이터 보안 솔루션은 기업 지식 저장소에 연결되는 코파일럿 및 엔터프라이즈용 챗GPT와 같은 AI 기반 어시스턴트를 안전하게 보호하기 위해 설계됐다.

AI 코파일럿 에이전트와 기본 지식 소스를 보호하기 위해 센트라의 솔루션은 ▲AI 코파일럿 스택 인벤토리 ▲AI 에이전트 데이터 접근 제어 ▲실시간 AI 데이터 보호 ▲AI 노출 인사이트 등을 지원한다.

① AI 코파일럿 스택 인벤토리

AI 에이전트 및 해당 모델, 연결된 지식 기반, 에이전트가 접근할 수 있는 민감 데이터, 환경에서 실행되는 동안 상호 작용하는 사용자, 그리고 이로 인해 발생하는 위험을 자동으로 검색하고 식별한다.

② AI 에이전트 데이터 접근 제어

AI 챗봇 및 어시스턴트가 엔터프라이즈 데이터 소스에 접근할 때 정의된 사용자 역할 및 권한 내에서 작동하도록 보장한다.

AI 에이전트가 활용하기 전에 데이터 소스 내의 파일에 지능형 라벨링 및 접근 제어를 적용해, 센트라는 ID 인식 정책을 시행해 AI 생성 응답이 승인되지 않은 정보를 절대로 공개하지 않도록 보장한다.

③ 실시간 AI 데이터 보호

AI 에이전트 상호 작용을 지속적으로 모니터링하고 권한 없는 데이터 접근 또는 악의적인 행위자의 잠재적인 데이터 유출 사례를 신속하게 감지하고 해결하기 위한 수정 권장 사항을 제공해 AI 에이전트가 잠재적으로 손상된 결과를 처리하거나 표시하기 전에 데이터 유출을 방지를 지원한다.

④ AI 데이터 노출 인사이트

누가 AI 상호 작용을 통해 어떤 정보에 접근했는지에 대한 귀중한 가시성을 제공해 신속한 조사를 용이하게 한다. 여기에는 AI 생성 응답에 대한 자세한 가시성이 포함되어 보안 팀이 새로운 보안 위험을 즉시 감지하고 수정할 수 있도록 지원한다.

AI 에이전트 데이터 상호 작용을 대규모로 제어, 모니터링 및 보호

이 솔루션과 함께 센트라는 마이크로소프트 코파일럿 스튜디오, 아마존 베드록(Amazon Bedrock), 엔터프라이즈용 챗GPT를 포함한 에이전트 툴킷에 대한 플랫폼 지원도 발표했다.

특히 ▲코파일럿 에이전트에 의한 적절한 데이터 접근 제어 시행 및 데이터 유출 방지 ▲AI 모델의 학습 또는 추론에 사용되는 데이터 보호 및 제어 ▲모델 확산, 섀도우 AI 에이전트 감지 및 규정 준수를 위한 AI/ML 사용 관리 ▲민감한 정보로 결론을 도출하고 공유하는 LLM을 감지해 AI 추론 위험 감소 등을 지원한다.

센트라의 CEO 요아브 레게브(Yoav Regev)는 “AI 에이전트는 창의성을 발휘하고 프로세스를 간소화하며 데이터 기반 통찰력을 제공함으로써 직원과 기업이 보다 철저하고 효율적으로 작업하도록 돕는다.”라며, “조직은 AI 에이전트가 안전하게 사용되어 AI 에이전트가 의존하는 기본 데이터의 개인 정보 보호 및 무결성을 보호해야 한다.”라고 말했다.