AI 생성 기술의 급속한 확산은 사이버 위협의 새로운 양상을 만들어내고 있다. 특히 딥페이크와 AI 사기 콘텐츠는 신뢰 기반 사회 인프라에 심각한 혼란을 초래하고 있으며, FBI는 이러한 공격이 "엄청난 재정적 손실"을 초래한다고 경고하고 있다. 개인뿐 아니라 기업까지도 AI 기반 사기 피해에 노출되면서, 이를 실시간으로 탐지하고 대응할 수 있는 기술 수요가 급증하고 있다.

AI 사기 및 딥페이크 탐지 소프트웨어 기업 트루스 스캔(Truth Scan, CEO 벤자민 밀러, 크리스찬 페리)이 AI 딥페이크 사기를 막는 AI 콘텐츠 검증 플랫을 발표했다. 이 플랫폼은 오디오, 이미지, 비디오, 텍스트 등 다양한 콘텐츠 유형을 대상으로 AI 기반 사기 여부를 판단하는 멀티모달 탐지 기술을 기반으로 한다.

플랫폼에는 트루스 스캔의 콘텐츠 진위 확인을 위한 기업용 API, 웹 기반 검증 플랫폼, 그리고 화상 통화 및 인터넷 검색 중 실시간 보호 기능을 제공하는 브라우저 확장 프로그램이 탑재됐다.

멀티모달 탐지 기반 AI 콘텐츠 검증 플랫폼

이 플랫폼은 ▲기업을 대상으로 하는 콘텐츠 진위성 검증 API ▲화상 통화 및 웹 브라우징 중 실시간 보호 기능을 갖춘 웹 기반 검증 시스템 ▲브라우저 확장 프로그램 등  세 가지 주요 솔루션을 중심으로 구성되어 있다.이 솔루션들은 AI가 생성한 허위 정보와 사기 콘텐츠를 감지해 사용자에게 즉각적인 경고를 제공한다.

특히 브라우저 확장 프로그램은 화상 통화나 온라인 콘텐츠 시청 중 AI 생성 사기 요소를 탐지하고, 실시간으로 경고를 제공함으로써 피해를 사전에 방지할 수 있다. 이와 함께 제공되는 API는 기업이 내부 시스템에 탐지 기능을 손쉽게 통합할 수 있도록 해, 대규모 비즈니스 환경에서도 AI 기반 위협에 대한 실시간 대응이 가능하도록 설계되었다.

플랫폼은 사용자가 다양한 형태의 AI 위협—예컨대 딥페이크 영상, 음성 사기 전화, 생성AI 기반 평판 훼손, 조작된 텍스트 콘텐츠 등—에 노출되는 것을 방지하는 데 중점을 둔다. 또한 고령층과 같은 사회적 취약 계층이 AI 사기 공격의 표적이 되는 현실을 반영해, 누구나 쉽게 접근하고 사용할 수 있도록 직관적인 UI와 접근성을 강화했다.

생성AI 사기 대응하는 실시간 방어 체계 확대

트루스 스캔은 이번 플랫폼 출시를 통해 AI 위협이 급속히 확산되고 있는 현 상황에서 개인과 조직의 정보 안전을 지키는 실질적인 방어책을 제공하고자 한다.

트루스 스캔 공동 창립자 크리스찬 페리(Christian Perry)는 “AI 사기의 증가 속도는 매우 빠르며, 딥페이크를 활용한 무고한 사람 대상 공격은 앞으로도 더욱 심각해질 것”이라며, “우리는 사람들이 악성 AI 콘텐츠로부터 스스로를 보호할 수 있도록 실시간 탐지 기반 방어 플랫폼을 제공하고 있으며, 이는 현재 시급히 필요한 기술적 대응책이다”라고 강조했다.