AI 기술이 기업 운영 전반에 통합되면서 기존 보안 체계로는 대응이 어려운 새로운 위협이 지속적으로 등장하고 있다. AI를 활용한 공격은 고도화되고 있으며, 이에 따라 조직들은 보안 아키텍처의 근본적인 재설계를 고려하게 되었다. 특히 AI가 생성하는 데이터 흐름과 자동화된 의사결정 과정은 기존 보안 경계와 규정 준수 방식에 새로운 도전을 안기고 있다.

데이터 및 ID 위협에 중점을 둔 사이버 보안 서비스 기업 네트릭스(Netwrix)가 121개국 2150명의 IT 및 보안 전문가를 대상으로 보안 동향을 분석한 연례 ‘글로벌 2025 사이버 보안 동향’ 보고서를 발표했다.

올해 설문 조사에서 네트릭스는 자동 감지 및 수정된 사고가 아닌 보안 팀의 전담 대응이 필요했던 사고를 조사했다. 이러한 정의에 따라 응답자의 51%가 지난 12개월 동안 보안 사고를 경험한 것으로 확인했다.

응답자 75%, 공격으로 인한 재정적 손실 경험

보안 사고로 인한 영향이 없다고 보고한 조직의 수는 2023년 45%에서 2025년 36%로 감소하고 있다. 그러나 응답자의 75%는 공격으로 인한 재정적 손실을 보고했으며, 이는 2024년 60%에서 증가한 수치이다. 손실액을 20만 달러 이상으로 추정하는 조직의 수는 7%에서 13%로 거의 두 배 증가했다.

한편 조직의 60%가 이미 IT 인프라에 AI을 사용하고 있으며 30%는 AI 도입을 고려 중인 것으로 나타났다.

응답자의 37%는 새로운 AI 기반 위협으로 인해 보안 접근 방식을 조정해야 했다고 답했으며, 30%는 비즈니스 사용자의 AI 사용으로 인해 새로운 공격 표면이 등장했다고 보고했다.

또한 29%는 감사인이 AI 기반 시스템의 데이터 보안 및 개인 정보 보호 증명을 요구하기 때문에 규정 준수에 어려움을 겪고 있다고 답했다.

AI로 인한 보안 위협 다변화

독점적인 기업 데이터로 훈련된 AI 워크로드는 지적 재산에 해당하며 사이버 범죄자들에게 매력적인 표적이 된다. 따라서, 데이터 수집부터 모델 훈련, 프롬프트 주입, 남용 또는 모델 유출 징후에 대한 API 엔드포인트 모니터링에 이르기까지 전체 AI 수명 주기에서 데이터를 보호하는 것이 중요하다.

보안 팀은 AI 환경에 제로 트러스트 원칙을 적용해야 한다. 즉, 내부 또는 외부의 AI 시스템과의 모든 상호 작용이 악의적일 수 있다고 가정하고 엄격한 인증, 최소 권한 액세스 및 지속적인 모니터링을 시행해야 한다.

직접적인 침해 비용은 잘 알려져 있지만, 지적 재산 손실, 제품 개발 지연 및 평판 손상과 같은 더 미묘한 비용은 정량화하기 어렵지만 특히 혁신이 비즈니스 모델에 필수적인 경우 파괴적일 수 있다.

네트릭스의 CPO 제프 워렌(Jeff Warren)은 “오늘날의 AI 기반 비즈니스 프로세스는 보안 팀이 대비해야 할 새로운 위협에 취약하다.”라며 “실제로 MFA 우회, 서비스 계정 및 토큰과 같은 머신-투-머신 ID 남용, AI 기반 딥페이크 음성 및 비디오 피싱, 대규모 합성 ID 생성과 같은 교묘한 새로운 방법으로 인해 ID 중심 공격이 더욱 지배적일 가능성이 높다.”라고 전했다.