사이버 보안 기업 트렌드마이크로가 AI 기술 고도화로 인해 심화되는 보안 위협으로부터 고객들을 보호하기 위한 자사의 지속적인 노력에 관한 세부 사항을 발표했다.

트렌드마이크로는 2023년 상반기 동안 글로벌 고객들을 위해 약 730억 건의 위협을 차단했으며, 이는 전년 대비 약 16% 증가한 수치이다. 이러한 결과는 트렌드마이크로의 고도화된 위협 탐지 능력을 입증하는 동시에 오늘날 사이버 보안 위협 환경의 방대한 규모를 보여준다.

트렌드마이크로는 최근 연구를 통해 사이버 공격자들이 ‘딥페이크(Deepfake)’로 알려진 AI 음성/영상 복제 기술과 생성AI를 결합해 ‘가상 납치’ 공격에 활용하는지 규명했다. 챗GPT는 대량의 데이터 세트를 필터링하고 융합해 피해자를 선정하는 데 이용되며, 딥페이크 기술은 범죄자들이 피해자들을 속이고 자녀가 납치되었다고 믿게끔 만들어 몸값을 요구하는 데 사용된다.

이미 오픈소스 생성AI 플랫폼에 ‘웜GPT(WormGPT)’와 ‘프로드GPT(FraudGPT)’ 같은 악성 AI 도구들이 구축돼 사이버 범죄의 확산을 촉진하고 해커들의 생산성과 공격 성공률을 높이는 데 이용되고 있다.

트렌드마이크로 생성AI가 ▲악성 다형성(polymorphic) 코드 개발 ▲탐지 가능성이 더 낮은 멀웨어 생성 ▲BEC(Business Email Compromise)를 목적으로 한 매우 설득력 있는 다국어 피싱 메시지, 웹페이지, 스캠 메일 작성 ▲해킹 도구 제작 ▲취약점 탐색 ▲코딩과 해킹 방법 학습 지원 ▲사기에 악용될 수 있는 카드 데이터 탐색 등 해커들에게 다양한 이점을 제공하고 있다고 분석했다.

이같은 기능은 악의적인 개발자에 의해 지속적으로 고도화되고 있으며, 구독 기반 요금제로 제공돼 진입 장벽을 더욱 낮추고 있다.

트렌드마이크로의 통합 사이버 보안 플랫폼 ‘트렌드 비전 원(Trend Vision One)’은 자체 생성형 AI를 ‘컴패니언(Companion)’ 가상 어시스턴트 형태로 활용해 SOC(Security Operation Center, 보안 운영 센터) 분석가들이 AI 기반 공격의 속도와 다형성에 대응할 수 있도록 지원한다. 트렌드 비전 원은 경보에 대한 사용자의 원활한 이해를 돕는 워크벤치(workbench) 기능은 위협 조사에 소요되는 시간을 줄여 경보당 평균 3분을 절감하고 일주일에 수 시간을 아낄 수 있게 한다. 커맨드 라인(command-line) 기능은 복잡한 스크립트를 간소화해 분석가의 시간을 절약한다. 따라서 사용자는 수동 검색이나 전문 도구 사용 시보다 최대 40분의 생산성 향상을 얻을 수 있다. 검색 쿼리 생성기(search query generator)는 사용자가 필드 이름과 연산자, 값을 찾는 데 적합한 검색 쿼리를 작성하도록 도와 최대 1시간을 절약할 수 있게 한다.

트렌드마이크로는 지난 2005년부터 BEC 공격을 탐지하도록 설계된 도구 등 AI 기반 솔루션 개발에 앞장서 왔으며, 클라우드 앱 보안 플랫폼에 포함된 ‘라이팅 스타일 DNA(Writing Style DNA)’ 기능은 사용자의 이전 메시지에서 ‘통상적인’ 이메일 작문 스타일을 학습해 이메일이 이 기준에서 벗어날 때 플래그를 표시한다. 이런 방식을 통해 2022년 한 해 동안 13만 건 이상의 BEC 공격을 차단한 바 있다.

존 클레이(Jon Clay) 트렌드마이크로 위협 인텔리전스 부문 부사장은 “전 세계를 강타하고 있는 챗GPT(ChatGPT)와 같은 AI 도구들은 이미 기회주의적인 위협 주체들에 의해 기업 보안의 허점을 파고드는 데 악용되고 있다. 트렌드마이크로는 자체적인 AI 활용을 통해 강화한 ASRM(Attack Surface Risk Management)과 XDR(eXtended Detection and Response), 그리고 이런 위협을 완화하는 데 앞장서고 있다”고 말했다.