AI로 무장한 정교한 사기꾼들이 공공 부문 예산을 고갈시키고, 정부에 대한 신뢰를 저해하고 있다. 그러나 AI 예산이 극적으로 증가할 것으로 예상됨에 따라, 전담 정부 부정행위 적발 담당자들이 반격할 태세를 갖추었다.

글로벌 시장 조사 기업 콜먼 파크스(Coleman Parkes)와 데이터 및 AI 서비스 기업 SAS가 새로운 보고서 ‘신뢰와 투명성: 공공 프로그램 효율성 극대화를 위한 부정행위 방지(Trust and transparency: Combating fraud to maximize public program efficiency)’를 발표했다.

정부 기관 다수, AI 기반 사기 공격으로 자금 고갈 및 시민 신뢰 약화

전 세계 공공 부문 조직들은 정부 예산에서 수십억 달러를 빼앗고 공공 신뢰를 약화하는 심각한 사기, 낭비 및 남용(Fraud, Waste, and Abuse, 이하 FWA) 위기에 직면해 있다.

설문 조사에 참여한 100명의 정부 부정행위 적발 담당자 중 거의 모두가 자신의 기관이 AI 기반 사기 계획의 피해자라고 주장했으며, 70%는 지난 5년 동안 이러한 공격이 증가했다고 밝혔다.

사기꾼들은 이제 AI 기반 플랫폼을 활용하여 합성 신원을 생성하고, 고도로 개인화된 피싱 캠페인을 만들고, 탐지를 회피하는 악성 코드를 설계한다. 이러한 도구는 방대한 데이터 세트를 분석해 인간 행동을 모방하고, 문서를 위조하며, 실시간으로 취약점을 악용한다.

이러한 계획은 막대한 재정적 손실을 발생시켰으며, 설문 응답자들은 일반적으로 FWA를 해결함으로써 예산의 약 16%를 절약할 수 있다고 추정했다.

예산 손실 외에도 놀랍게도 96%의 응답자가 FWA가 자신의 기관 및 프로그램에 대한 시민 신뢰에 부정적인 영향을 미쳤다고 답했다. 시민들은 종종 이러한 사기 계획의 간접적인 피해를 입으며, 응답자들이 가장 흔하게 언급한 유형 중에는 신원 도용, 세금 사기 및 사회 복지 사기가 있다.

정부 기관, FWA 격차 해소에 어려움에 직면

응답자의 85%가 사기 방지를 상위 5가지 우선순위로 꼽았음에도 불구하고, 기관들은 이를 효과적으로 수행할 자원이 크게 부족하다.

또한, FWA 퇴치를 위해 필요한 모든 도구와 자원을 갖춘 기관은 10곳 중 1곳에 불과하며, 거의 3분의 1이 상당한 자원 제약에 직면해 있다. 응답자들은 분석 기술(48%), 기술(40%) 및 예산(24%)의 격차를 제한 요인으로 꼽았다.

이러한 격차는 외부 및 내부 사기 및 오류 최소화, 데이터 보안 보장, 절반 이상의 응답자가 우선순위로 꼽은 조사관 효율성 개선을 위한 기관의 노력을 방해한다.

AI 도입이 FWA 방지 및 업무 효율 향상

현재 AI 도입률은 비교적 낮아, 설문 조사 대상자의 약 절반이 FWA 해결에 AI를 사용하고 있으며, 생성형 AI를 사용하는 비율은 4분의 1을 약간 넘는다. 그러나 도입 곡선은 빠르게 가속하고 있다.

연구에 따르면 사기 탐지를 위한 네트워크 분석 사용은 32%에서 87%로 확대될 것으로 예상된다. 더욱 고무적인 것은 합성 데이터, 대규모 언어 모델 및 디지털 트윈 사용의 엄청난 도약을 포함하여 97%가 향후 2년 이내에 생성AI를 사용할 것으로 예상한다는 점이다.

이는 정부 조직에 광범위하고 긍정적인 결과를 가져올 것이다. 이미 FWA에 대처하기 위해 AI를 사용하고 있는 조직 중 약 40%가 사기 경고의 우선순위 개선, 더 빠르고 많은 양의 FWA 식별을 이점으로 꼽는다.

그러나 가장 큰 이점(57%)은 인력 효율성 향상이다. 이러한 응답은 AI 및 정부 생산성에 초점을 맞춘 별도의 글로벌 설문 조사 결과와 일치하며, 대부분의 응답자는 향후 3년 동안 AI가 조직 내 생산성 향상에 상당하거나 중요한 영향을 미칠 것이라고 믿고 있다.

시민 신뢰를 강화하려면 책임감 있는 AI 사용도 요구된다. 기관들은 프로그램의 무결성을 보장하고 의도치 않은 피해로부터 시민을 보호하기 위해 인간의 감독이 중요하다는 것을 이해하고 있다.

개인 정보 보호 및 보안(48%)과 조직의 책임감 있는 AI 사용 보장(43%)은 정부 부정행위 적발 담당자들이 밤잠을 설치게 만드는 상위 3가지 과제에 속했다.