생체인증도 뚫는 AI 생성 딥페이크 증가

모바일 경제 및 금융 애플리케이션은 인증, KYC(Know Your Customer) 규정 준수 및 기기 내 사기(ODF) 방지를 위해 생체 인식 확인을 포함한 얼굴 인식을 사용해 인증을 간소화하는 동시에 사용자와의 신뢰를 구축하고 유지한다.

그러나 AI 생성 딥페이크, 가상 카메라, 이미지 대체, 버퍼 공격, 음성 복제 및 기타 방법의 증가로 인해 얼굴 인식 및 생체 인식 인증의 모든 측면을 표적으로 하는 공격의 수와 정교함이 증가했다.

딥페이크 공격은 얼굴 및 음성 인증 시스템을 속일 수 있는 초현실적이고 적대적인 복제 또는 조작을 쉽게 생성한다. 때로는 공격자가 가상 카메라를 사용하여 미리 녹화된 또는 라이브 비디오 스트림을 얼굴 인식 프로세스에 삽입한다.

다른 경우에는 이미지 버퍼 공격이 실시간으로 얼굴 데이터 처리를 조작하여 생체 인식 확인 프로세스를 우회한다. 딥페이크 공격의 진화 속도, 사용 편의성 및 보편성으로 인해 딥페이크 탐지는 2025년 브랜드와 기업의 주요 사기 방지 및 ATO(Account Takeover, 계정 탈취) 목표 중 하나가 되었다.

모바일 애플리케이션을 위한 얼굴 인식 서비스의 정교함이 증가하고 있음에도 불구하고 생체 인식 인증 프로세스를 조작하는 우회 기술은 가상 카메라를 사용하고 AI 생성 합성 이미지 또는 스트림을 사용하여 합법적인 사용자를 모방하는 방식으로 생체 인식 인증 방법을 능가하기 시작했다.

또한 악의적인 행위자들은 기기 하드웨어, 얼굴 인식 소프트웨어 및 얼굴 인식 API의 취약점을 악용하여 생체 인식 인증의 무결성을 손상시키는 도구와 기술을 개발하고 있다. 이러한 과제는 딥페이크 공격으로부터 얼굴 인식을 보호하기 위해 생체 인식 인증 워크플로 주변의 강화된 보안 조치의 필요성을 강조한다.

30개 플러그인 추가해 AI 생성 및 딥페이크 계정 탈취 방지

모바일 비즈니스 보안 기업 앱돔(Appdome)이 안드로이드 및 iOS 앱에서 딥페이크 탐지를 위한 30개의 새로운 동적 방어 플러그인을 추가하며 계정 탈취 방지(Acount Takeover Protection, ATO Protection) 제품군을 확장했다.

이번에 추가된 새로운 플러그인은 AI 생성 및 기타 딥페이크 공격으로부터 애플 페이스 ID(Face ID), 구글 얼굴 인식 및 타사 얼굴 및 음성 인식 서비스의 무결성을 보장하도록 설계됐다.

모든 앱돔의 방어 기능과 마찬가지로 딥페이크 탐지를 위한 30개의 새로운 동적 방어 플러그인은 코드 통합, 수동 코딩 수행, SDK 구현 또는 서버 배포 없이 앱돔 플랫폼을 통해 선택적으로 사용할 수 있다.

앱돔의 딥페이크 탐지 플러그인이 보호하는 특정 공격 벡터는 ▲페이스 ID 우회 ▲딥페이크 가상 앱 ▲딥페이크 오디오 탐지 ▲음성 복제 등이다.

먼저, 페이스ID 및 생체 인식 API 호출, 하드웨어 추상화 계층 등을 포함하여 모바일 장치에서 기본 Android 및 iOS 생체 인식, 얼굴 인식 인증 시스템을 우회하려는 시도를 탐지한다.

또한 가상 카메라 및 비디오 삽입 도구와 함께 사용하여 Android 및 iOS 애플리케이션에서 사용하는 얼굴 인식 서비스를 스푸핑하는 데 사용할 수 있는 딥페이크 및 얼굴 교체 앱을 조사한다.

한편, 합성 신원 공격, 비디오 삽입, 프레임 및 이미지 버퍼 공격, DMA(Direct Memory Access) 공격을 탐지하고 얼굴 임베딩 등을 모니터링한다.

얼굴 인식 프로세스 중에 실제 얼굴이 사용되는지 확인하기 위해 기본 또는 보조 생체 인식 확인을 적용하고 AI 모델을 적용하여 3D 깊이, 피부 질감, 조명, 눈 반사율, 생체 인식 이미지의 강도 등을 확인한다.

음성 인증 워크플로에 의존하는 애플리케이션을 실행할 때, 보호된 애플리케이션과 함께 사용될 때 합성 음성 스푸핑 및 음성 복제 앱을 탐지한다.

이 방어 플러그인은 실시간 행동 분석을 사용해 페이스 ID 우회 및 AI 기반 딥페이크 및 음성 복제 도구가 안드로이드 및 iOS 앱에서 인증 확인을 악용하는 데 사용하는 행동과 방법을 탐지한다.

또한 학습 시스템으로서 딥페이크 및 관련 위협에 대한 지속적인 방어를 보장하기 위해 지속적인 학습을 지원한다.

한편, 모든 앱돔의 모바일 앱 방어 기능과 마찬가지로 선택 중심의 심층 방어, 노코드, SDK 없음 전달의 강력한 기능과 혁신적인 기기 내 탐지, 방어 및 인텔리전스 옵션을 결합해 모든 구현 목표를 충족한다.

모든 안드로이드 및 iOS 딥페이크 탐지 플러그인은 앱돔의 위협 이벤트(Threat-Event) 인텔리전스 및 제어 프레임워크와 위협스코프 모바일(ThreatScope Mobile) XDR 서비스에서 사용할 수 있다.

위협 이벤트를 통해 모바일 브랜드와 얼굴 인식 SDK 및 API 제공업체는 각 공격에 대한 데이터를 수집하고 딥페이크 공격이 발생할 때 데이터를 사용하여 애플리케이션 또는 사용자 경험을 제어할 수 있다.

모바일 브랜드와 얼굴 인식 SDK 및 API 제공업체는 위협 이벤트 인텔리전스를 사용해 더 심층적인 위협 인텔리전스를 수집하고, 위협이 발생할 때 브랜드 음성으로 고유한 워크플로와 사용자 메시지를 만들 수 있다. 또한 모바일 기업은 딥페이크 방지 기능을 배포하기 전후에 위협 스코프를 통해 딥페이크 공격을 추적하고 모니터링할 수 있다.

글로벌 DX 지원 기업 인텔릭스(Intellyx)의 CTO 에릭 뉴커머(Eric Newcomer)는 “공격자들은 끊임없이 생체 인식 인증을 우회하는 새로운 방법을 찾고 있다.”라며 “앱돔은 AI 생성 딥페이크 공격이라는 과제에 정면으로 맞서 모바일 비즈니스에 이러한 공격이 모바일 앱 내부에서 발생하지 않도록 세분화된 탐지 및 제어 방어 기능을 제공해, 공격 데이터가 다른 시스템으로 전달되는 것을 방지한다.”라고 말했다.