생성AI는 생산성을 향상하고 작업을 자동화하기 위한 직원들의 주요 도구로 빠르게 자리 잡았다. 그러나 생성AI 도입의 급증은 IT 부서의 감독 없이 직원들이 생성AI 애플리케이션을 사용하는 섀도우 AI 문제의 증가로 이어졌다.

섀도우 AI는 기업을 보안, 규정 준수 및 운영상의 위험을 초래할 수 있다. 민감한 회사 데이터가 생성AI 애플리케이션과 무의식적으로 공유될 수 있으며, 규제 요구 사항을 위반할 수 있고, 잘못된 정보나 편향된 결과가 비즈니스 결정에 영향을 미칠 수 있다.

SASE 기업 케이토 네트웍스(Cato Networks)가 오늘 케이토(Cato) CASB(클라우드 접근 보안 브로커)를 위한 새로운 생성AI 보안 제어 기능을 발표했다.

케이토 SASE 클라우드 플랫폼의 기본 기능인 케이토 CASB는 이제 섀도우 AI 대시보드 및 거버넌스 엔진이 탑재됐다. 섀도우 AI 대시보드를 통해 기업은 생성AI 사용을 탐지, 분석 및 통찰력을 얻을 수 있으며, 정책 엔진을 통해 기업은 생성AI 애플리케이션 내 사용자 활동을 제어할 수 있다.

케이토 CASB를 위한 새로운 생성AI 보안 제어 기능을 통해 보안 및 IT 팀은 ▲섀도우 AI 탐지 ▲생성AI 애플리케이션 접근 제어 ▲민감한 데이터 보호 ▲거버넌스 및 규정 준수 유지 등이 가능해졌다.

먼저, 모든 생성AI 애플리케이션을 식별하고 분류하여 승인된 사용과 승인되지 않은 사용을 구별한다. 카토는 950개 이상의 생성AI 애플리케이션 카탈로그를 제공하며, 접근할 수 있는 생성AI 애플리케이션과 그 안에서 수행할 수 있는 정확한 작업(업로드, 다운로드 등)을 제어한다.

또한 민감한 데이터가 LLM에 업로드되는 것을 제한하거나 방지해 실시간으로 데이터 보안 및 기밀성 위반을 방지하며, 모든 사용자 활동에 대한 완전한 가시성을 확보하고 회사 정책 및 규제 표준에 부합하는 방식으로 생성AI를 도입할 수 있도록 지원한다.

케이토 네트웍스의 제품 관리 부사장인 오피르 아가시(Ofir Agasi)는 “기업은 생성AI를 관리할 수 있는 스마트한 방법이 필요하다.”라며 “케이토 CASB에 대한 이번 개선을 통해 카토 SASE 클라우드 플랫폼 내에서 AI를 활용해 엔터프라이즈 전반에서 생성AI 애플리케이션이 사용되는 방식을 검색, 분류 및 보호하고 있다.”라고 말했다.