스피어 피싱은 전 세계 기업과 소비자에게 가장 큰 피해를 입히는 사이버 위협이다. 인터넷 범죄 신고 센터(IC3)에 따르면 스피어 피싱 공격으로 인해 전 세계적으로 보고된 손실은 2022년에 27억 달러에 달했다 이 수치는 특히 콘텐츠 제작에 도움이 되는 생성 AI 도구의 출현으로 향후 몇 년 동안 크게 증가할 것으로 예상된다.

역사적으로 스피어 피싱 이메일에는 일반적으로 철자 및 문법 오류와 같이 사기성 이메일을 더 쉽게 감지할 수 있는 특성이 포함되어 있었다. 생성AI 플랫폼은 이러한 요소를 제거하여 모든 언어로 오류 없는 텍스트를 생성할 수 있다. 이를 통해 외국 공격자는 스피어 피싱 이메일을 현지화하고 합법성을 높일 수 있다.

AI 기반 위협 탐지 및 대응 글로벌 기업 인 베이드(Vade)는 생성AI가 생성한 위협을 포함한 지능형 위협에 맞서기 위해 설계된 스피어 피싱 탐지 엔진을 발표했다.

새로운 기능은 기존 이메일과 인위적으로 생성된 스피어 피싱 이메일의 고유한 조합을 기반으로 베이트의 스피어 피싱 알고리즘을 교육한다. 베이드는 향상된 기능으로 인해 7개의 스피어 피싱 분류기 또는 카테고리에 대한 탐지 신뢰도가 높아진다는 것을 확인했다. 여기에는 회사 임원을 사칭하여 직원들의 개인 정보를 빼내려는 사기 수법인 W2 사기와 급여 사기, 은행 사기 등과 관련된 사기가 포함된다.

미국에서는 W2 사기가 가장 큰 개선을 이루었으며 신뢰도가 50% 증가했고 은행 사기가 30%로 그 뒤를 있다. 미국 세금 시즌에 급증하는 W2 사기는 공격자가 직원 W2를 부정하게 획득하려고 시도할 때 발생한다. 베이드는 12월과 1월 사이에 W2 사기 규모가 130% 이상 증가함에 따라 향상된 기능을 구현하고 있다.

생성AI가 인기를 끌면서 베이드 연구원들은 위협의 품질이 크게 향상되는 것을 관찰했다. 그리고 생성AI 제작자는 플랫폼의 오용을 방지하기 위해 안전 제어 장치를 마련했지만 베이드는 이러한 조치를 우회할 수 있는 능력을 입증하는 내부 테스트를 수행했다.

애드리안 젠드레(Adrien Gendre) 베이드 최고 기술 및 제품 책임자는 "우리는 사이버 보안에서 전례 없는 변화의 시기를 맞이하고 있다."라며, "생성AI는 게임 체인저가 되고 있다. 이는 해커에게 대규모 고급 공격을 배포할 수 있는 새로운 기능을 제공하고 보안 공급업체에 보조를 맞출 수 있는 기회를 제공한다. 사이버 보안 분야의 선두주자로서 우리는 오랫동안 생성AI를 선을 위한 힘으로 수용해야 할 필요성을 인식해 왔다. 그리고 우리는 불로 불과 싸우고 있다."고 말했다.