AI 기술의 급속한 발전은 기존 보안 체계를 뛰어넘는 새로운 위협을 야기하고 있다. 특히 딥페이크 및 합성 음성을 활용한 사기 수법이 고도화되며, 금융·소매·보험 등 다양한 산업에서 실질적인 피해가 발생하고 있다. 컨택센터는 사기 공격의 주요 접점으로 부상하며, 기업들은 실시간 대응 기반의 음성 보안 기술을 긴급하게 요구받고 있다.

음성 인증 및 사기 탐지 솔루션 기업 핀드롭(Pindrop, CEO 비제이 발라수브라마니얀)이 전 산업에 걸쳐 AI 기반 사기 및 딥페이크 공격을 조사한 ‘2025년 음성 지능 및 보안 보고서’를 발표했다.

이 보고서는 금융 및 비금융 기관에 서비스를 제공하는 컨택 센터를 포함하여 기업 내 시급한 보안 문제와 미래 동향을 심층적으로 다뤘다. 보고서는 AI 기반 사기 시도가 급격히 증가하고 있으며, 딥페이크 음성 공격이 실제 산업 현장에서 실시간으로 이뤄지고 있다는 점을 경고하고 있다.

음성 기반 사기, 산업 전반에 확산

핀드롭은 2024년 한 해 동안 총 12억 건의 고객 통화를 분석해 딥페이크 사기 활동을 정량적으로 측정했다. 그 결과, 딥페이크 기반 음성 사기 시도는 전년 대비 1300% 증가하며 하루 7건에 달하는 수준으로 확대됐다. 합성 음성 통화는 1분기 대비 4분기에 173% 증가했으며, PII(개인식별정보) 및 은행 계좌 사기율도 61%나 상승했다.

소매 분야에서는 평균 127건 중 1건의 전화가 사기 시도였으며, 이는 금융기관보다 5배 높은 비율이다. 사기 시도는 전체적으로 26% 증가해, 핀드롭이 예상한 4% 증가치를 훨씬 상회하는 수준으로 나타났다. 이처럼 산업 전반에 걸쳐 음성 기반 AI 사기가 급증하는 상황에서 기존 방어체계는 한계에 봉착하고 있다.

AI 기반 사기 위협, 2025년 더욱 가속

핀드롭은 2025년에 딥페이크 통화가 155%, 딥페이크 관련 사기가 162% 증가할 것으로 예측했다. 특히 소매 분야에서는 사기 발생 비율이 다시 두 배 이상 증가하여, 평균 56건 중 1건의 통화가 사기 시도가 될 것으로 전망했다. 전체 콜센터는 2025년 최대 445억 달러 규모의 사기 피해에 직면할 수 있을 것으로 분석됐다.

더불어 아이프루브(iProov)의 자료에 따르면 얼굴 스왑 공격이 704%, 모바일 웹 인젝션 공격이 255% 급증했으며, 시그니캣(Signicat)은  현재 AI가 전체 사기 시도의 42.5%를 주도하고 있다고 밝혔다. 산업 전반에서 AI 사기 수법이 정교해지고 다양해지면서, 기존 인증과 탐지 기술만으로는 대응에 한계가 있는 것으로 드러났다.

딥페이크 탐지 기술 고도화와 솔루션 강화

사기범들은 AI 기반 피싱, 서비스형 스푸핑 플랫폼, 음성 변조 기술, 유출된 PII 데이터, 다크웹 튜토리얼 등을 이용해 보안 경계를 우회하고 있다. 특히 기업의 채용 면접 과정에서 딥페이크 음성과 영상이 사용되어 채용 담당자를 속이는 사례도 등장하고 있다. 이는 조직 운영 전반에 대한 위협으로 확산되고 있다.

핀드롭의 라훌 수드(Rahul Sood) 최고제품책임자(CPO)는 “사기범들의 속도에 맞춰, 우리의 기술도 더 빠르게 진화해야 한다.”라고 말했다.

핀드롭은 AI 사기의 진화를 대응하기 위해 실시간 탐지 및 사칭 방지 기능을 갖춘 ‘핀드롭 펄스(Pindrop Pulse) 포 미팅’을 선보였다. 이 제품은 고위험 음성 및 영상 커뮤니케이션 상황에서 딥페이크를 식별하고, 기업의 신뢰 기반 운영을 보호하는 데 목적이 있다.

핀드롭은 다양한 실시간 커뮤니케이션 채널에 적용할 수 있는 보안 솔루션을 지속적으로 개발해, 기업이 AI 기반 위협 속에서도 사람을 식별하고 신뢰를 구축할 수 있도록 지원하고 있다. 

핀드롭은 향후 AI 기반 보안 위협 대응을 위해 실시간 음성 인증 기술과 딥페이크 탐지 솔루션을 더욱 고도화할 방침이다.

핀드롭의 CEO 비제이 발라수브라마니얀(Vijay Balasubramaniyan)은 “음성 사기는 더 이상 미래의 위협이 아니다. 그것은 지금 여기에 있으며, 누구도 예측할 수 없었던 속도로 확산되고 있다.”라며 “딥페이크, 합성 음성 기술, AI 기반 사기는 사기 환경을 재편하고 있다. 숫자는 엄청나며, 전술은 날마다 더욱 정교해지고 있다.”라고 전했다.