딥페이크 기반의 AI 사기가 전 세계적으로 증가하면서 기업과 개인 모두에게 새로운 위협으로 작용하고 있다. 특히 생성AI 기술의 공개와 확산으로 인해 기술 숙련도가 낮은 공격자도 고도화된 범죄를 저지르는 것이 가능해졌다. 2025년 1분기에만 딥페이크 관련 사기로 인한 재정 손실이 2억 달러를 초과했으며, 2024년에는 기업당 평균 50만 달러, 대기업은 최대 68만 달러의 피해를 입었다. 금융 부문에서는 딥페이크 사고가 2023년 한 해 동안 700% 급증했으며, 시청각 기반 공격을 탐지하는 정확도는 24.5%에 불과하다.

그럼에도 불구하고, 기업 중 29%만이 자가 보호 대책을 마련했으며, 46%는 전혀 준비가 되어 있지 않은 것으로 나타났다.

AI 기반 보안 기술 스타트업 트루스캔(TruthScan)은 2025년 7월 9일, 딥페이크 기반 사이버 사기를 방지하기 위한 이미지 감지 솔루션 ‘트루스캔(TruthScan)’을 출시했다. 이 제품은 이미지, 영상, 오디오, 텍스트까지 다양한 형태의 생성AI 콘텐츠를 분석하여 사전 탐지 및 방지 기능을 제공한다. 

다차원 딥페이크 탐지 메커니즘

트루스캔은 딥페이크 콘텐츠를 조기에 탐지하기 위해 적대적 연구(adversarial research)와 역공학(reverse engineering)을 기반으로 한다. 이 솔루션은 생성AI가 콘텐츠를 만들어내는 패턴을 분석하고, 공격자가 회피하려는 시도까지 추적하여 조작 여부를 판단한다. 딥페이크 영상뿐만 아니라 이미지, 텍스트, 음성 등 다양한 형태의 입력을 정밀하게 분석할 수 있도록 구성되어 있다.

이 제품은 단순히 출력물의 시각적 품질이나 음성 파형만을 분석하는 것이 아니라, 생성 과정의 메타데이터와 비정형 신호를 함께 평가하여 고해상도 기반의 위조 식별 능력을 강화한다. 또한 탐지 결과를 실시간으로 반환하며, 이를 통해 기업은 보안 조치를 사전에 적용하거나 사용자 인증 과정에 적용할 수 있다.

트루스캔은 딥페이크 사기의 실질적인 탐지와 대응을 목표로, 기업 보안 시스템에 통합 가능한 API 형태로 솔루션을 제공하며, 향후 지속적인 탐지 정확도 개선과 AI 모델 업데이트를 통해 적응형 보안 기능을 강화할 계획이다.

킵넷랩스(Keepnetlabs)에 따르면, 딥페이크 사기 시도는 최근 3년간 2137% 증가하였다. 딜로이트는 2027년까지 미국 내 AI 생성 사기로 인한 경제적 피해가 400억 달러에 이를 것으로 전망하였다. 이러한 통계는 AI 콘텐츠의 식별 기술이 사회 전반의 신뢰와 보안 인프라에 핵심 기술로 자리 잡고 있음을 의미한다.

트루스캔은 지속적으로 딥페이크 위협의 심각성을 알리고, 대중과 기업이 탐지 기술을 채택할 수 있도록 다양한 홍보와 교육 활동도 병행할 계획이다.

트루스캔의 최고경영자 크리스찬 페리(Christian Perry)는 “대중에게 공개된 AI 이미지와 비디오 모델로 인해, 정교하지 않은 공격자들도 복잡한 사이버 범죄를 실행할 수 있게 되었다. 우리는 늦기 전에 이 위협에 대응할 수 있는 기술적 해결책을 제공해야 한다.”라며, “대중은 딥페이크의 위험성을 점차 인식하고 있다. 우리는 이 위협을 막기 위한 기술을 끊임없이 개발해 나갈 것”이라고 밝혔다.