지난 2024년 1월부터 11월까지 경찰청에 접수된 딥페이크 성범죄 신고 건수는 1천여건에 육박하며, 정부에서는 딥페이크 범죄 예방책 등을 담은 AI 기본법 제정에 속도를 내고 있다.

IT 보안·인증 플랫폼 기업 라온시큐어(대표 이순형, 이정아)가 자사 개인용 모바일 백신 앱 ‘라온 모바일 시큐리티’에 딥페이크 동영상이나 이미지를 탐지할 수 있는 기능을 탑재했다.

라온 모바일 시큐리티는 AI 기반 스미싱 탐지 및 악성앱 탐지, 해킹 방지 등을 제공하는 개인용 모바일 백신 앱으로, 특정인에 대한 명예훼손과 가짜 정보로 인한 사회 혼란을 예방하고자 자체 개발한 AI 기반 딥페이크 탐지 기능을 추가했다.

이번 업데이트를 통해 라온 모바일 시큐리티 이용자들은 스마트폰에 저장된 동영상이나 이미지, 유튜브 링크 등을 업로드하면 해당 콘텐츠가 생성AI로 조작된 딥페이크일 가능성이 얼마나 높은지 몇 초만에 알 수 있다.

라온 모바일 시큐리티에 탑재된 딥페이크 탐지 기술은 합성된 얼굴과 실제 얼굴을 상호 비교해 분류하도록 학습된 AI의 안면 추출, 주파수 계열 변환 등의 기술을 기반한다. 이를 통해 얼굴 형태 및 눈·입 모양의 부자연스러움을 찾아내는 모델들을 사용해 딥페이크 가능성을 계산한다.

라온시큐어는 추후 실시간 딥페이크 탐지 서비스도 라온 모바일 시큐리티에 추가할 계획이다. 이를 통해 영상통화 시에도 상대방이 조작된 얼굴로 지인을 사칭하는지 실시간으로 탐지할 수 있게 된다. 

이외에도, 자사 딥페이크 탐지 기술을 기업용 애플리케이션 프로그래밍 인터페이스(API) 서비스로도 제공할 예정이며, 목소리로 타인을 사칭하는 딥보이스 탐지 기술도 개발하고 있다.

향후 금융기관, 공공기관, 이동통신사를 비롯해 다양한 기업에 딥페이크 및 딥보이스 기술을 제공해 임직원이나 고객 사칭으로 인한 기업의 피해와 고객의 피해를 방지할 수 있도록 할 방침이다. 또한 기업들이 라온시큐어의 기술을 통해 딥페이크 생성물을 구별해 내 AI 생성물 표시 의무화 규정을 지킬 수 있게 할 계획이다.

이정아 라온시큐어 대표는 “AI를 접목한 보안 기술을 오랜시간 연구해 온 라온시큐어는 심각한 딥페이크 범죄 대응이 절실한 사회, 그리고 정보자산과 고객보호가 절실한 고객사들의 필요에 부응하기 위해 딥페이크 탐지 기술을 개발했다.”라며 “딥보이스 탐지, 실시간 탐지 등 기술 고도화를 지속해 범죄 예방과 고객사들의 경쟁력 강화에 기여하겠다.”라고 말헸다.