생성AI는 딥페이크의 증가를 초래하여 조직의 신뢰성에 심각한 위협을 초래한다. 음성 인증 및 보안 솔루션 글로벌 기업 핀드롭(Pindrop)의 딥페이크 및 음성 복제 소비자 감정 보고서에 따르면, 1200만 명 이상의 미국 성인이 허가 없이 자신을 대상으로 한 딥페이크가 생성된 사례를 알고 있다. 이러한 합성 파일은 종종 유투브, 틱톡 인스타그램, 페이스북 및 뉴스 미디어와 같은 플랫폼을 통해 확산된다. 이러한 진화하는 위협에 노출되지 않도록 하기 위해, 조직은 이러한 최첨단 기술을 채택하여 대중 이미지와 신뢰성을 보호할 수 있다.

이에 핀드롭(Pindrop)이 99% 정확도로 디지털 오디오 파일에서 AI 생성 음성을 탐지할 수 있는 딥페이크 탐지 솔루션 핀드롭 펄스 인스펙트(Pindrop Pulse Inspect)를 발표했다.

이 솔루션은 뛰어난 정확도로 딥페이크를 탐지한다. 미디어 파일에 합성 음성이 포함되어 있는지 빠르게 분석하고 확인하여 고객이 허위 정보의 확산을 사전에 방지하고 브랜드 신뢰성을 유지할 수 있어 콜센터 뿐만 아니라 미디어 조직, 비영리 단체, 정부 기관 및 소셜 미디어 등 다양한 용도로 사용할 수 있다.

사용자는 핀드롭 플랫폼에 오디오 파일을 업로드하여 해당 파일에 합성 음성이 포함되어 있는지 신속하고 정확하게 판단할 수 있다. 핀드롭은 딥페이크 점수를 즉시 제공하며, 파일의 특정 부분에서 합성 또는 딥페이크 아티팩트가 포함된 부분을 식별하여 사용자가 검토 및 분석 시 해당 부분에 주의를 기울일 수 있도록 한다. 펄스 인스펙트로 사용자는 온라인 뉴스, 소셜 또는 출판 플랫폼에 콘텐츠를 배포하기 전에 콘텐츠의 무결성을 보호하기 위한 신속한 조치를 취할 수 있다.

펄스 인스펙트는 350개 이상의 딥페이크 생성 도구, 2천만 개 이상의 고유 발화 및 40개 이상의 언어 등 인터넷에서 사용되는 언어의 90% 이상을 포함하는 딥페이크 탐지 모델로 학습됐다. 4초마다 연속적으로 제공되는 딥페이크 점수는 혼합 미디어에서 합성 콘텐츠와 인간 콘텐츠를 구별할 수 있도록 한다.

라이브니스(liveness)를 지속적으로 추적하여 오디오의 어느 부분이 합성인지, 어느 부분이 진짜인지 감지할 수 있어 오디오의 일부만 딥페이크일 경우 특히 유용하다. 사용하기 쉬운 API 기반 배치 처리 플랫폼과 간단한 사용자 인터페이스는 위험 허용 범위에 따라 조정 가능한 임계값으로 명확한 분석(합성 vs. 비합성)을 제공하여 궁극적으로 시간, 비용 및 자원을 절약할 수 있다.

비제이 발라수브라마니얀(Vijay Balasubramaniyan) 핀드롭 공동 설립자이자 CEO는 "핀드롭은 10년 이상 음성 인증 및 보안 분야에서 혁신을 선도해 왔다. 우리는 올해 초 바이든 딥페이크 사건에서 사용된 TTS 엔진의 출처를 발견했으며, 여러 산업 분야의 이해관계자들과의 대화에서 강력한 딥페이크 탐지 메커니즘의 필요성이 분명하게 드러났다."라며, "딥페이크 탐지에 대한 우리의 전문 지식을 미디어, 비영리 단체, 정부 및 소셜 미디어 네트워크와 같은 조직으로 확장하기 위해 펄스 인스펙트를 출시했다. 우리는 조직이 콘텐츠의 무결성을 보호하고 현대 디지털 시대에 신뢰를 되찾을 수 있도록 지원하겠다."고 말했다.