AI 확산 속에서 금융·정부·보험 산업 전반의 사기 공격 방식이 정교해지며 탐지 기술의 고도화 필요성이 빠르게 증폭되고 있다. 생성AI는 방대한 학습 능력과 자동화 기능을 바탕으로 인간이 수시간 또는 수일에 걸쳐 수행하던 조작과 위장 과정을 몇 초 이내로 압축하고 있다.

딥페이크 음성, 합성 영상, 교묘한 문맥 기반 메시지를 활용하는 소셜 엔지니어링은 조직의 기존 대응 체계를 벗어난 새로운 방식으로 확산되고 있다. 이러한 환경에서 사기 방지 전략은 단순 룰 기반 탐지에서 벗어나 실시간 데이터 신호, 행동 분석, 신원 기반 보증을 결합하는 지능적 프레임워크로 재편되고 있다.

AI 기반 사기가 산업 전반의 위험도를 끌어올리면서 세계적 분석 기업인 SAS(SAS)와 공인사기조사관협회 ACFE(Association of Certified Fraud Examiners)는 국제 사기 인식 주간을 맞아 사기 방지 전문가 대상 설문을 발표하며 전 세계적인 대응 강화의 필요성을 강조했다.

AI 기반 사기 가속...전문가 77% “딥페이크 공격 증가”

SAS와 ACFE는 사기 방지 전문가를 대상으로 실시한 조사에서 지난 24개월 동안 딥페이크 기반 소셜 엔지니어링이 빠르게 증가했다고 응답한 비율이 77%에 달한다고 밝혔다. 전문가 83%는 향후 2년 동안 이러한 시도가 적당히 또는 상당히 증가할 것으로 예상했다.

ACFE 회장 존 길은 생성AI가 비즈니스의 유용한 도구이면서 동시에 가장 강력한 위협이 되고 있다고 언급했다. 그는 새로운 위험이 계속 출현하는 환경에서 가장 효과적인 방어 전략은 인식이라며 교육과 공공 인식 제고, 산업 간 협력이 필수라고 강조했다.

SAS의 스투 브래들리는 AI가 진실과 모방의 경계를 모호하게 만들고 있어 수십억 달러 규모의 위험이 발생하고 있다고 설명했다. 그는 ACFE 회원 중 단 10%만이 충분히 준비되어 있다고 답한 현실을 지적하며 정부와 산업계의 대응 체계 강화 필요성을 언급했다.

실시간 신원 신호·행동 데이터 결합...금융권 대응 체계 고도화

AI 기반 사기 방어는 금융 산업에서 가장 빠르게 발전하고 있다. 노르웨이 국가 디지털 신원 서비스인 BankID(BankID)는 연간 거의 10억 건의 인증과 서명 거래를 처리한다. BankID는 로그인 패턴, 기기 메타데이터, 서명 과정에서 나타나는 행동 신호 등을 SAS의 실시간 사기 탐지 시스템과 결합해 이상 징후를 조기에 탐지하고 있다. BankID의 데이비드 셀은 신원 기반 신호와 SAS의 AI 분석을 통합함으로써 사기 대응 단계가 예측 기반으로 전환되었다고 설명했다. 이를 통해 실시간 탐지 정확도가 높아지고 오탐지 비율이 감소하여 사용자 보호와 신뢰 확보가 강화되고 있다.

UAE의 Ajman Bank(Ajman Bank) 역시 SAS 및 지역 파트너인 데이터사이언스 미들 이스트(DataScience Middle East)와 협력해 실시간 사기 관리 체계를 고도화했다. 머신러닝 모델은 여러 채널의 고객 행동을 분석하여 점수를 부여하고, 카드 및 디지털 거래 전반의 위험 요소를 빠르게 파악해 조사 자원이 집중될 수 있도록 한다.

보험 산업, 국내 첫 ‘AI 기반 네트워크 분석’으로 조직적 사기 탐지

보험 산업에서는 국내의 DB손해보험(DB Insurance)이 SAS와 협력해 국내 최초로 AI 기반 사기 네트워크 분석 체계를 구축했다. SAS Viya 기반의 DB T-System은 오랜 기간 축적된 보험 증권과 보험금 청구, 고객 정보를 통합해 수백만 건의 청구 데이터에서 숨겨진 연관성과 패턴을 파악한다. 이를 통해 탐지 정확도는 99% 향상되었고 분석 시간은 몇 시간에서 몇 분으로 단축되었다.

또한 처리 가능한 조사량이 30배 증가하여 사기 탐지 속도와 효율성이 크게 향상되었다. DB손해보험 관계자는 기능을 활성화하자마자 수십 건의 사기 관련 연관성이 즉시 드러났다고 설명했다. 이는 기존의 단편적 조사 방식에서 벗어나 사기 확산을 조기에 차단하는 구조로 전환되었음을 의미한다.

산업적 측면에서 네트워크 분석은 조직범죄형 보험 사기를 탐지하는 핵심 기술로 부상하고 있으며, AI 기반 탐지 체계가 보험금 누수 방지와 고객 보호에 실질적 영향을 미치고 있다.

공공 부문, 머신러닝 기반 지급 무결성 강화

공공 부문에서도 AI 기반 사기 방지 기술 도입이 확대되고 있다. 미국 남부의 한 대규모 주정부는 SAS와 협력하여 식량 지원 프로그램의 과다 지급 문제를 해결하기 위한 머신러닝 모델을 구축했다. 초기에는 일부 회수 절차 자동화 수준에 머물렀으나 이후 주 전체로 확대되며 사례 전체의 위험도를 평가하는 체계로 발전했다.

모델은 과오 지급 가능성이 높은 사례를 자동 표시하여 담당자가 고위험 사례에 집중할 수 있도록 한다. 주정부 관계자는 조사 처리 기간이 12개월에서 6개월로 단축되었고 전체 처리 기간도 절반으로 줄었다고 밝혔다. 이는 예산과 인력 제약 속에서도 머신러닝 기반 분석이 공공 프로그램 운영의 효율성을 크게 강화하고 있음을 보여준다.

공공 지원 제도는 복잡한 규정과 방대한 데이터를 기반으로 운영되는 만큼 AI 기반 평가 체계는 투명성과 책임성을 높이는 수단으로 평가된다.

국내 시장 관점: 금융·공공·보험 전 분야에 ‘AI 사기 방어’ 수요 급증

국내 시장에서도 AI 기반 사기 위협이 빠르게 증가하며 대응 체계 강화 필요성이 대두되고 있다. 금융 분야에서는 계좌 탈취, 대출 실행, 보이스피싱의 자동화 등 공격 방식이 고도화되고 있으며, 인증·로그인 패턴 분석 등 신원 기반 탐지 기술 수요가 증가하고 있다.

보험 산업은 DB손해보험 사례처럼 네트워크 분석 기반 탐지가 실효성을 입증하며 타 보험사로 확산될 가능성이 높다. 공공 부문 역시 복지 지급 무결성, 세금 환급, 보조금 관리 등 데이터 의존도가 높은 정책 분야에서 AI 기반 검증 체계를 도입하는 흐름이 이어질 것으로 보인다.

한국 시장은 디지털 금융 이용률이 높고 온라인 기반 서비스 의존도가 크기 때문에 AI 사기 탐지의 고도화는 선택이 아니라 필수 요소로 평가된다. 산업 간 공동 대응, 실시간 정보 공유, 고신뢰 신원 인증 체계 확립 등 구조적 전환 또한 필요성이 커지고 있다.

SAS와 ACFE가 제시한 조사와 실제 산업 사례는 AI 기반 사기의 확산이 금융, 보험, 공공 부문 전반의 운영 구조를 위협하고 있음을 명확히 보여준다. 생성AI는 공격자에게 강력한 도구를 제공하고 있으며 전통적 룰 기반 탐지로는 대응하기 어렵다.

이에 따라 산업계는 실시간 신호 기반 탐지, 행동 분석, 네트워크 분석을 결합한 고도화된 방어 체계를 채택하며 기술적 전환을 가속하고 있다. 전 산업이 AI 기반 사기 위험에 노출된 상황에서 방어 전략의 재정비는 조직 생존의 핵심 요소로 부상하고 있다.