디지털 전환과 AI 기반 자동화가 가속화되면서 전 세계 기업들이 사이버 보안 전략에 생성AI 도구를 적극 도입하고 있다. 자산 탐지, 위협 탐지, 위험 우선순위 설정 등에서 AI는 빠른 속도와 높은 정확도를 제공하지만, 동시에 공격자들도 AI를 활용하면서 새로운 위협이 부상하고 있다. 기업들은 AI 도구의 보안 취약성과 민감정보 노출, 신뢰성 문제, 컴플라이언스 부담 증가 등의 문제를 우려하고 있으며, 이에 따라 AI 도입 단계부터 보안 내재화를 요구하는 목소리가 높아지고 있다.

글로벌 AI 보안 전략, 높은 채택률과 함께 위협에 대한 우려 공존

AI 보안 기술 기업 트렌드마이크로(Trend Micro Incorporated)가 발표한 조사 결과에 따르면, 조사 대상 21개국 2250개 조직 중 81%가 이미 AI 기반 사이버 보안 도구를 사용하고 있으며, 16%는 도입을 검토 중이다. 응답자 대부분이 AI의 보안 활용 가능성을 긍정적으로 평가했으며, 자동화된 자산 검색과 위협 탐지, 위험 평가 분야에서 AI 도구가 활발히 사용되고 있는 것으로 나타났다.

조사에 응한 기업의 42%는 향후 12개월 내 사이버 보안을 강화할 전략 중 하나로 AI와 자동화를 최우선으로 꼽았다. 하지만 낙관적인 전망과 달리, 94%의 기업은 AI가 향후 3~5년 내 사이버 위험 노출을 오히려 증가시킬 수 있다고 응답했다. 특히 AI 기반 공격의 규모와 복잡성이 커질 것이라는 경고가 이어지고 있으며, 기존 보안 전략의 수정이 불가피하다는 의견도 다수였다.

AI 프레임워크 취약점

트렌드마이크로가 베를린에서 개최한 AI 보안 해킹 대회 ‘Pwn2Own’에서는 12건의 공격이 4개의 주요 AI 프레임워크를 대상으로 성공적으로 수행되었다. 특히 dp엔비디아의 AI 추론 서버 ‘트라이튼 인퍼런스 서버(Triton Inference Server)’가 집중 타깃이 되었으며, 레디스(Redis), 크로마(Chroma), 엔비디아 컨테이너 툴킷 또한 공격에 노출되었다. 총 7건의 제로데이 취약점이 발견되었으며, 일부 사례에서는 단 한 개의 취약점으로 전체 시스템 침해가 가능함이 입증되었다.

해당 취약점들은 공개 전까지 공급업체가 90일 내 패치를 완료해야 하며, 이는 AI 시스템이 기존 IT 인프라보다 더 민감한 보안 관리를 요구함을 보여준다. AI 도입이 확산되는 시점에서 이와 같은 기술적 위협은 기업 보안 담당자들에게 실질적인 대응 전략 마련을 요구하고 있다.

AI 보안 내재화와 위험 기반 접근 전략의 필요성

트렌드마이크로는 이번 연구 결과를 바탕으로, 기업 보안 리더들에게 AI 도입 전 과정에서 보안 내재화를 핵심 원칙으로 삼을 것을 권고했다. 보안은 사후 대응이 아닌 사전 통합되어야 하며, AI에 의해 새롭게 생성되는 공격 표면과 API, 섀도 IT 자산을 포괄적으로 고려해야 한다고 강조했다.

트렌드마이크로의 최고 엔터프라이즈 플랫폼 책임자인 레이첼 진(Rachel Jin)은 “AI는 방어 능력을 향상시킬 수 있는 동시에 공격자에게도 새로운 무기를 제공한다”며, “AI 기반 보안 전략 수립 시 신뢰 가능한 모델 기반 설계와 철저한 검증 과정이 필수”라고 밝혔다.

이번 조사는 AI 보안 도입에 따른 기술적 기회와 리스크를 동시에 조명하며, 조직의 전략적 판단과 기술 내재화 방향에 중요한 기준을 제시하고 있다. 기업은 단순한 도입이 아니라, AI의 보안 위협까지 포함한 전방위 대응 전략을 갖추는 것이 필수적이다.