AI로 생성된 음성과 얼굴 영상이 실제와 거의 구분되지 않을 정도로 정교해지면서, 온라인상에서 사실과 조작을 구분하기 어려워지고 있다. 특히, 가족이나 지인을 사칭한 음성 스캠, 유명 인사를 도용한 투자 유도 영상 등이 SNS와 메신저를 통해 확산되면서, 실시간으로 AI 딥페이크 여부를 판별하고 대응할 수 있는 기술의 필요성이 높아지고 있다. 

사이버 보안 전문 기업 젠(Gen) 산하의 노턴(Norton)이 ‘노턴 360(Norton 360)’ 모바일 앱에 AI 기반 딥페이크 보호 기능을 새롭게 탑재했다고 밝혔다. 

음성과 얼굴 조작 모두 탐지

노턴의 딥페이크 보호 기능은 AI 분석 기술을 활용해 영상 속 음성과 얼굴 이미지의 미세한 조작 흔적을 감지한다. 유튜브 링크를 업로드하면, 영상 내에서 AI로 생성된 목소리나 사람의 얼굴에서 나타나는 왜곡, 움직임 불일치, 모호한 윤곽 등 시각적 이상 징후를 자동으로 분석한다. 조작이 의심되거나 악의적 AI 콘텐츠가 감지되면, 노턴 지니가 이를 경고하고 사용자가 취할 수 있는 보안 조치를 대화형으로 안내한다.

특히, 영상에서 자주 활용되는 ‘AI 합성 목소리’의 탐지 능력을 고도화해, 단순 영상 판별을 넘어 문맥 기반의 판단 기능까지 제공한다. 현재는 영어로 된 유튜브 영상 분석만 지원되지만, 이후 다양한 언어 및 플랫폼으로 범위가 확장될 예정이다.

모바일에서 실시간 탐지 가능...연내 인텔 기반 확대

노턴은 AI 하드웨어를 보유하지 않은 사용자들도 딥페이크로부터 보호받을 수 있도록 하는 것을 주요 목표로 한다. AI 기반 보안 기능이 주로 고성능 AI PC에 탑재되는 흐름과 달리, 모바일 기기에서도 즉각적으로 대응할 수 있도록 지원 범위를 넓힌 조치다. 노턴은 향후 인텔 기반 AI PC에 대해서도 동일한 보호 기능을 제공할 계획이며, 모바일과 데스크톱 모두에서 탐지 정확도와 범위를 강화하는 업데이트를 지속적으로 적용할 예정이다.

이번 기능은 AI 기반 사이버 위협 탐지 및 대응 솔루션 ‘노턴 지니 AI 어시스턴트(Norton Genie AI Assistant)의’ 스캠 보호 기능 일부로 제공되며, 현재 미국·영국·호주·뉴질랜드의 안드로이드 및 iOS 사용자에게 조기 접근(Early Access) 형태로 출시됐다.

젠 리나 엘리어스(Leena Elias) 최고제품책임자(CPO)는 “AI로 생성된 얼굴과 목소리가 실제와 구별되지 않는 시대에는 ‘신뢰’ 자체가 취약해질 수밖에 없다. 누구나 AI 하드웨어가 없어도 자신이 보는 콘텐츠가 진짜인지 아닌지 확인할 수 있는 역량을 갖춰야 한다.”라고 말했다.

[알림] GTT KOREA GTT SHOW는 오는 8월 12일 오후 2시부터 3시까지 “피해 큰 BPF Door 같은 커널 기반 악성코드 막는 EDR과 마이크로세그멘테이션 실전 보안 전략”을 주제로 웨비나를 진행합니다. BPF Door 같은 커널 기반의 악성코드가 사용하는 공격 기법과 침투 단계별 위협의 소개, EDR과 마이크로세그멘테이션이 어떻게 상호보완적으로 작동하여 침입 초기 탐지부터 내부 확산 차단까지 이어지는 보안 체계의 구축 전략과 새로운 형태의 변종 공격에 유연하게 대응하는 제로 트러스트 기반 보안 전략을 실전 사례와 함께 제시합니다.