생성AI와 AI 모델 활용이 기업 전반으로 확산되면서 승인되지 않은 AI 모델과 관리되지 않는 데이터 사용이 새로운 보안 위협으로 부상하고 있다. 섀도 AI(Shadow AI)는 기업 내 정책과 무관하게 배포된 모델이나 숨겨진 AI 사용을 의미하며, 기존 보안 도구로는 발견이 어려워 데이터 유출, 지적 재산권 침해, 규정 위반 등의 위험을 초래할 수 있다. 특히 기업 보안팀은 AI 모델의 배포 위치, 사용 데이터 종류, 정책 준수 여부를 파악하기 어려운 경우가 많아 이에 대한 통합 가시성과 제어 수단의 필요성이 커지고 있다.

승인되지 않은 모델 탐지·위험 데이터 식별 기능

데이터 보안, 개인정보 보호, 규정 준수 및 AI 거버넌스 플랫폼 기업 빅아이디(BigID)는 새로운 기능 ‘섀도 AI 디스커버리(Shadow AI Discovery)’를 출시했다.

이 솔루션은 조직 전반에서 승인되지 않은 AI 모델을 자동으로 탐지하고, AI 학습 및 운영에 사용되는 개인·규제 데이터 세트를 식별한다. 또한 클라우드, SaaS, 개발자 도구, 협업 플랫폼 등 다양한 환경에서 숨겨진 AI 활동을 표면화한다. 모델을 기본 데이터와 연관시켜 정책 기반의 수정과 위험 차단을 가능하게 하며, 실행 가능한 인텔리전스를 통해 AI 보안 태세를 개선한다.

섀도 AI 디스커버리는 단순 가시성 확보를 넘어 보안 및 거버넌스 팀이 직접 정책을 시행하고 위험 접근을 제한하며 수정 워크플로를 실행할 수 있는 기능을 제공한다. 이를 통해 기업은 승인되지 않은 모델과 위험한 데이터 사용을 조기에 식별하고 문제가 발생하기 전에 대응할 수 있다. 빅아이디는 모델 저장소, 개발자 도구, 클라우드, 협업 플랫폼 간 통합을 지원해 섀도 AI의 영향을 전체적으로 파악하고 제어할 수 있는 환경을 마련했다.

빅ID 님로드 백스(Nimrod Vax) CPO는 “보안 팀은 위험한 AI를 찾아내는 데 그치지 않고 이를 차단해야 한다. 섀도 AI 디스커버리는 숨겨진 모델과 위험한 데이터 사용을 발견하고 사전에 조치할 수 있는 엔드투엔드 가시성과 제어 기능을 제공한다.”고 밝혔다. 이 솔루션은 금융, 헬스케어, 제조 등 AI 도입이 활발하고 데이터 보안이 중요한 산업에서 활용성이 높을 것으로 예상되며, 기업의 AI 보안 전략에 핵심 도구로 자리 잡을 전망이다.

섀도 AI 확산은 기업 보안·규정 준수에 중대한 위협이 되고 있다. 빅아이디의 섀도 AI 디스커버리는 승인되지 않은 AI 모델과 위험 데이터 사용을 식별·제어하는 기능을 통해 이러한 위험을 선제적으로 완화하고, 안전하고 규정을 준수하는 AI 환경 구축을 지원한다.

[알림] GTT KOREA GTT SHOW는 오는 8월 12일 오후 2시부터 3시까지 “피해 큰 BPF Door 같은 커널 기반 악성코드 막는 EDR과 마이크로세그멘테이션 실전 보안 전략”을 주제로 웨비나를 진행합니다. BPF Door 같은 커널 기반의 악성코드가 사용하는 공격 기법과 침투 단계별 위협의 소개, EDR과 마이크로세그멘테이션이 어떻게 상호보완적으로 작동하여 침입 초기 탐지부터 내부 확산 차단까지 이어지는 보안 체계의 구축 전략과 새로운 형태의 변종 공격에 유연하게 대응하는 제로 트러스트 기반 보안 전략을 실전 사례와 함께 제시합니다.