AI 기술의 진화는 사이버 보안 위협 환경을 빠르게 재편하고 있다. 특히 생성AI와 대규모 언어 모델(LLM)의 도입은 해커에게 정교한 공격 수단을 제공하고 있으며, 이에 따라 기존 보안 체계의 한계가 명확히 드러나고 있다. 사이버 공격의 자동화, 정밀화, 대규모 확산은 기업과 조직의 대응 전략에 구조적인 전환을 요구하고 있다. 이러한 흐름 속에서 사이버 보안 업계는 AI 기반 위협에 대응할 수 있는 탐지·분석·방어 프레임워크를 새롭게 정립하고 있다.

사이버 보안 솔루션 기업 체크포인트 소프트웨어 테크놀로지스(Check Point Software Technologies)는 ‘AI 시큐리티 리포트(AI Security Report)’를 통해 AI를 악용한 사이버 범죄 사례와 이에 대응하기 위한 전략적 방안을 제시했다. 이 보고서는 AI 기술이 진실과 거짓의 경계를 모호하게 만들고 있으며, 공격자는 신뢰 기반의 디지털 아이덴티티를 정면으로 위협하고 있다고 지적한다.

체크포인트 리서치(Check Point Research)의 로템 핀켈슈타인(Lotem Finkelstein) 이사는 "사이버 범죄자들의 AI 도입이 이미 위협 환경을 재편하고 있다"며 "AI 기반 복제본인 디지털 트윈은 인간 사고와 행동까지 모방할 수 있어 더 이상 먼 미래의 위협이 아니다"라고 밝혔다.

AI 기반 위협 유형 분석: 사칭, 조작, 자동화, 상용화

첫 번째 위협은 AI 기반 사칭 공격이다. AI가 생성한 이메일, 오디오, 딥페이크 영상 등을 활용한 고도화된 피싱 시도가 증가하고 있다. 실제 사례로는 이탈리아 국방장관을 사칭한 오디오 피싱이 보고되었으며, 이는 음성·영상 인증 시스템의 무력화 가능성을 보여준다.

두 번째는 LLM 중독(Data Poisoning) 및 허위 정보 확산이다. 공격자가 AI 학습 데이터에 의도적으로 잘못된 정보를 주입해 챗봇의 오답률을 높이는 방식이다. 러시아 관련 챗봇이 33%의 허위 응답을 반복한 사례는, 기업 내부 챗봇이나 LLM 도입 시 학습 데이터 검증의 중요성을 시사한다.

세 번째는 AI 기반 악성코드 제작과 자격증명 마이닝이다. AI는 DDoS 공격을 자동화하고, 자격증명을 정교하게 추출하며, 다크웹 기반 AI 툴을 통해 탐지를 회피하는 기능도 수행한다. 개버스 샵(Gabbers Shop) 사례처럼 공격의 정밀도와 은폐력이 높아지고 있다.

마지막 위협은 다크웹에서 AI 모델이 상용화되고 있다는 점이다. FraudGPT, WormGPT와 같은 맞춤형 LLM이 피싱, 해킹, 보안 우회에 활용되면서 기존 보안 솔루션만으로는 방어가 불가능한 수준에 도달하고 있다.

AI 대응 전략: 탐지 강화와 다층 검증 체계 구축

체크포인트는 이번 보고서에서 AI 시대에 대응하기 위한 사이버 보안 프레임워크를 제안했다. 첫째, AI 기반 탐지 및 위협 헌팅 기술이 필요하다. AI가 생성한 피싱 콘텐츠나 딥페이크를 실시간으로 식별하는 기능을 스마트 이벤트(SmartEvent) 및 쓰렛클라우드(ThreatCloud)와 연계해 구현할 수 있다.

둘째, 다중 AI 기반 아이덴티티 검증 체계를 구축해야 한다. OTP, 음성 인증 외에 텍스트, 영상, 음성을 통합한 검증 체계가 요구된다. 이는 단일 인증 수단의 우회 가능성을 줄이고, 사칭 공격의 성공률을 낮추는 데 효과적이다.

셋째, AI 위협 인텔리전스를 강화하는 전략이 필요하다. LLM이 악용되는 전술(TTPs)을 사전에 식별하고, 마이터 어택(MITRE ATT&CK) 기반 위협 모델링과 연계하여 대응 체계를 고도화해야 한다.

로템 핀켈슈타인(Lotem Finkelstein)은 "AI 중심 시대에 사이버 보안 팀은 공격자의 속도에 발맞춰 방어 시스템에도 AI를 통합해야 한다"며, "이 보고서는 위협을 강조하는 데 그치지 않고, AI 환경을 책임감 있게 보호하기 위한 실질적 로드맵을 제시하고 있다"고 말했다.

체크포인트의 이번 보고서는 생성AI와 LLM 기술이 새로운 위협이자 동시에 대응 수단이 될 수 있음을 보여준다. 사이버 보안 조직은 AI 기반 위협을 탐지하고 방어하는 기술 역량을 강화하고, 다중 인증 체계와 위협 인텔리전스를 통합한 보안 아키텍처를 통해 위협의 확산을 방지해야 한다.