사이버 범죄자들은 진화하는 생성AI 기술을 모든 규모의 조직에 대해 더욱 정교하고 표적화된 공격을 수행하기 위해 점점 더 남용하고 있다. 개인화된 이메일과 같은 고품질의 사람과 유사한 출력을 생성하는 것을 포함하여 새롭게 민주화된 기능은 생성AI를 특히 지난 1년 동안 새로운 수준으로 확장된 사회 공학 및 BEC 공격 영역에서 사이버 범죄를 위한 강력한 도구로 변화시켰다.

DBIR 2023 보고서에 따르면 BEC는 사회 공학 관련 사건의 50% 이상을 차지했으며, 퍼셉션 포인트의 2023 연례 보고서에서는 BEC 시도가 83% 증가한 것으로 나타났다. 점점 더 복잡해지는 위협 환경 속에서 생성AI 기반 위협에 대한 최첨단 방어가 절실해 졌다.

글로벌 사이버 보안 기업 퍼셉션 포인트(Perception Point)는 새롭게 부상하고 있는 AI로 인한 이메일 위협을 대응하는 최신 탐지 기술을 발표했다.

AI 기반 기술은 LLM(Large Language Models) 및 딥 러닝 아키텍처를 활용하여 생성AI(Generative AI) 기술의 부상으로 현재 대대적인 변화를 겪고 있는 사이버 위협인 BEC(Business Email Compromise) 공격을 효과적으로 탐지하고 방지한다.

증가하는 위협에 대응하여 퍼셉션 포인트는 오픈AI의 챗GPT 및 구글의 바드와 같은 인기 있는 LLM의 이면에 있는 기술을 미러링하여 텍스트의 의미론적 컨텍스트를 이해할 수 있는 AI 모델인 트랜스포머(Transformers)의 기능을 혁신적으로 활용하는 LLM 기반 탐지 모델을 개발했다.

이 접근 방식을 통해 퍼셉션 포인트 솔루션은 생성AI 기반 위협을 탐지하고 저지하는 데 중요한 요소인 LLM 생성 텍스트의 고유한 패턴을 식별할 수 있다.

이 모델은 거의 실시간으로 콘텐츠의 100%를 동적으로 스캔하는 퍼셉션 포인트의 기능에 맞춰 평균 0.06초에 수신 이메일을 처리한다. 처음에는 퍼셉션 포인트에서 포착한 수십만 개의 악성 샘플에 대해 학습했으며, 그 효과를 극대화하기 위해 새로운 데이터로 지속적으로 업데이트된다.

퍼셉션 포인트는 합법적인 이메일을 만들기 위해 생성 AI를 광범위하게 사용하여 오탐을 최소화하기 위해 고유한 3단계 아키텍처를 활용한다.

이 모델은 초기 점수를 매긴 후 트랜스포머 및 클러스터링 알고리듬을 사용하여 이메일 콘텐츠를 분류하며, 이러한 단계의 통찰력을 보낸 사람의 평판 및 인증 프로토콜 정보와 같은 추가 데이터와 통합한다. 이 프로세스를 통해 모델은 이메일이 AI에 의해 생성되는지 여부와 잠재적으로 위협이 되는지 여부를 정확하게 예측할 수 있다.

생성AI가 계속해서 증가함에 따라 퍼셉션 포인트는 AI 기반 사이버 보안 솔루션으로 대응하고 있다. LLM에서 생성된 콘텐츠의 패턴, 고급 이미지 인식, 회피 방지 알고리즘 및 특허 받은 동적 엔진을 활용하여 퍼셉션 포인트는 강력하고 사전 대응적인 방어를 제공하여 위협이 사용자에게 도달하기 전에 무력화한다.

탈 자미르(Tal Zamir) 퍼셉션 포인트 CTO는 "우리는 계속해서 확대되는 공격 범위에서 나쁜 행위자들이 이용하게 된 또 다른 방법을 가진 산업으로서 도전을 받고 있다. 이러한 역학 관계를 뒤집고 탐지를 위해 AI를 적극적으로 활용해 이러한 위협이 사용자의 받은 편지함에 도달하기도 전에 방지할 수 있다. 이는 BEC 공격에 대한 싸움의 패러다임 전환이다."라고 말했다.