생성AI는 사이버 공격자의 생산성과 정밀도를 급격히 높이는 동시에, 피싱, 음성 사칭, 문서 위조 등의 새로운 벡터를 제공하며 보안 경계를 무너뜨리고 있다.

이에 대응하기 위해선 AI 기반 방어 체계 도입뿐 아니라, 기업 내부 구성원의 교육, 실시간 대응 프로세스 자동화, 위협 정보의 동적 연계 등이 요구된다. 특히 보안팀과 이사회, 현업 부서 간의 유기적 협업과 훈련 시뮬레이션은 단기적 효용 이상의 조직적 회복력을 제공할 수 있다.

AI 기반 위협 환경은 향후 더욱 고도화될 것으로 보이며, 공격자가 신뢰를 겨냥해 침투하는 방식은 단순 기술적 방어를 넘어선 문화적 보안 역량 확보가 핵심이 될 전망이다. 기업은 예방 중심이 아닌 '복원력 기반의 전략적 대응 체계'로의 전환이 절실하다.

독일 이메일 보안 솔루션 기업 호넷시큐리티(Hornetsecurity)가 약 72억 건의 이메일을 분석해 이메일이 여전히 사이버 공격의 핵심 전달 경로로 사용되고 있음을 강조한 '2025 연례 사이버 보안 보고서'를 발표했다.

보고서는 악성코드 공격이 전년 대비 131% 폭증했다고 밝혔으며, 이메일 기반 사기(34.7%) 및 피싱(21%) 공격도 함께 증가해, 전반적인 위협 수준이 심화되었음을 시사했다.

보고서에 따르면 공격자들은 생성AI(GenAI)와 자동화 기술을 적극 활용해 보다 정교한 피싱 콘텐츠와 공격 흐름을 설계하고 있다. 사이버 보안 최고책임자(CISO)의 77%가 생성AI를 활용한 피싱을 주요 위협으로 인식하고 있으며, 이에 대응하기 위해 기업의 68%는 AI 기반 탐지 및 방어 시스템에 투자를 확대하고 있다.

신뢰 침해 노리는 AI 위협의 진화…딥페이크·음성 클로닝도 부상

AI의 악용은 단순한 피싱을 넘어 새로운 위협으로 부상 중이다. 전체 CISO의 61%는 AI 기술이 랜섬웨어 공격의 리스크를 높였다고 응답했다. 특히 주목되는 위협은 ▲딥페이크 및 음성 클로닝을 통한 인물 사칭, ▲AI 기반 신원 위조 및 문서 생성, ▲공개 AI 도구의 오용, ▲모델 포이즈닝을 통한 AI 내부 침투 등이다.

이러한 위협은 전통적인 보안 체계가 인식하기 어려운 '신뢰' 기반의 공격으로 진화하고 있으며, 이에 따라 내부자 위협, 위장 취업 및 신원 기반 침투의 가능성도 급증하고 있다. 단순히 시스템에 대한 침입이 아니라, 기업 내 관계자와 의사소통 기반의 신뢰 체계를 파괴하는 방식으로 공격이 전개된다.

대응 역량의 격차...AI 이해 부족한 리더십, 보안문화 전환 시급

기업들이 복구 역량을 강화하고 있지만, 여전히 ‘AI 보안 위협’에 대한 조직 내부의 이해도는 천차만별이다. 보고서에 따르면 CISO들은 경영진의 인식 수준을 ‘깊이 있는 이해’부터 ‘거의 무지’에 이르기까지 다양하게 평가했으며, 전반적으로 '부분적인 인식'에 머물러 있다는 공통점을 보였다.

호넷시큐리티 CEO 다니엘 호프만(Daniel Hofmann)은 "AI는 공격 도구이자 동시에 방어 수단이다. 2026년은 단순한 침해를 넘어서 ‘신뢰’ 자체를 공격 대상으로 삼는 위협이 본격화될 것"이라며, "AI 중심의 공격에 대응하려면 전사적인 인식과 문화적 전환이 필요하다"고 강조했다.

특히 기업의 이사회와 고위 경영진의 AI 위기 대응 시뮬레이션 부족, 기능별 대응 매뉴얼의 부재 등은 향후 발생 가능한 AI 기반 사이버 위협에 대한 조직의 회복탄력성을 저하시킬 수 있다는 분석도 덧붙였다.