딥페이크 기술은 영화나 게임에서 배우 얼굴과 음성을 자연스럽게 변환하고 역사적 인물 복원해 맞춤형 학습 콘텐츠를 생성할 수 있다. 이처럼 딥페이크 기술은 원래 엔터테인먼트 및 예술 산업에서 활용하기 위해 개발됐으나 이제는 사이버 사기, 신원 범죄, 정치적 허위 정보 유포 등 더 위험한 영역으로 확장되고 있다.

특히 AI 기반 영상 및 음성이 비약적으로 발전하면서 콘텐츠의 진위 여부를 판별하기 어려워지고 있다. 사이버 범죄자는 기술을 악용해 민감한 정보나 금전을 탈취하고, 가짜 뉴스를 확산해 미디어의 신뢰를 훼손하고 있다.

이러한 딥페이크 위협을 식별하고 대응하는 것이 중요한 과제로 떠오르고 있다.

온라인 카지노 정보 플랫폼 슬로토질라(Slotozilla)가 증가하는 딥페이크 사기 위협을 조사한 ‘딥페이크는 어떻게 작동하는가(How Do Deepfakes Work)’ 보고서를 발표했다.

국가별·산업별 딥페이크 범죄율

딥페이크 범죄는 전 세계적으로 빠르게 확산되고 있지만, 특정 국가가 범죄의 중심지가 되고 있다. 고도화된 AI 사기 수법이 발전하면서, 인터넷 사용이 활발하고 규제 장치가 미비한 지역에서 사기가 급증하고 있다.

딥페이크 사기가 가장 많이 증가한 국가는 미국(3000건), 필리핀(4500건), 베트남(3050건), 일본(2800건), 벨기에(2980건), 루마니아(1766건), 슬로바키아(1500건), 멕시코(700건), 캐나다(477건), 브라질(828건), 아르헨티나(766건), 남아프리카공화국(1200건), 알제리(1000건), 아랍에미리트(1000건)였다.

이들 국가에서는 사이버 사기의 급격한 증가뿐만 아니라, AI 기술과 관련된 심각한 윤리적·법적 문제가 함께 대두되고 있다.

딥페이크 기술을 악용한 개인 정보 악용한 신원 사기도 증가하고 있다. 신원 사기 비율이 가장 높은 산업 5개는 온라인 미디어(4.27%), 전문 서비스(3.14%), 헬스케어(2.41%), 운송(2.03%), 비디오 게임(1.82%) 순이었다.

국가별 신분증 사기 비율은 팔라우(21.78%), 기니(13.65%), 아프가니스탄(10.19%), 방글라데시(6.11%), 영국(4.33%) 등이 있었다.

딥페이크 사기는 단순한 기술적 문제가 아니라 사회 전반에 걸쳐 심각한 영향을 미치는 범죄다. 범죄자가 기술을 계속 발전시키는 상황에서 국제 사회가 협력해 효과적인 대응책을 마련하고 적용하지 않으면 딥페이크 범죄는 통제 불가능할 것이다. 따라서 각국 정부, 기술 기업, 사이버 보안 전문가들은 딥페이크 탐지 및 방지 솔루션을 개발해야 한다.