인공지능(AI)과 머신러닝(ML) 알고리듬의 최근 발전으로 고급 명령 및 제어(AC2) 임무, 의사 결정 지원 시스템, 추천 시스템, 컴퓨터 비전, 자율 주행차, 침입 탐지 및 방지 시스템을 포함한 많은 분야에서 데이터 기반 지능형 애플리케이션이 확산되고 있다. 많은 AI/ML 알고리듬이 의사 결정 지원 애플리케이션에 통합되어 분석 성능과 예측을 향상시키고 있다.

전문가들은 AI/ML이 중요한 의사 결정 프로세스(예: 국방분야 AC2 미션 크리티컬 애플리케이션)에서 널리 사용됨에 따라 AI/ML 알고리듬을 표적으로 삼고 결과적으로 공격자에게 유리하게 의사 결정 프로세스에 영향을 미치는 사이버 공격이 기하급수적으로 증가하고 있다고 했다.

AI/ML 알고리듬 보호하는 rMLS

무선 위협 모니터링 솔루션 기업 록 테크놀로지스(LOCH Technologies)의 살림 하리리(Salim Hariri) 박사와 그의 연구팀은 AI/ML 시스템이 모든 유형의 공격을 견딜 수 있도록 하는 최첨단 솔루션을 개발했다. 록 테크놀로지스의 자회사인 아버텍(AVIRTEK)은 적대적인 AI/ML 공격에도 불구하고 정상적으로 작동하는 회복성 있는 머신러닝 시스템(이하 rMLS)을 개발한 공로로 공군 연구소(AFRL)로부터 180만 달러를 수여받았다.

하리리 박사는 “이 프로젝트에서 우리의 초점은 DoD와 상업 시장에서 광범위한 응용 프로그램에 대한 보안 조치를 구축하기 위해 AI/ML 시스템을 사용하는 것이 아니라 AI/ML 시스템을 보호하는 데 맞춰져 있다. 아버텍과 록의 연구원들은 모든 유형의 사이버 공격으로부터 회복성 있는 AI/ML 운영을 보장하는 rMLS를 개발할 것이다.”고 말했다.

하리리 박사는 기존의 방어 메커니즘은 AI/ML 시스템을 사이버 공격으로부터 보호하기에 부족하다며, “우리의 rMLS는 rMLS가 사용된 ML 알고리듬을 동적으로 변경하는 이동 대상 방어(MTD)를 활용하여 AI/ML 시스템을 보호하는 혁신적인 접근 방식을 나타낸다. ML 모델을 무작위로 변경해 공격자가 내부 AI/ML 알고리듬을 알아내는 것을 극도로 어렵게 만들고 결과적으로 적대적인 AI/ML 공격에 대한 회복성을 보장한다.”고 말했다.

다양한 분야에 활용되는 rMLS 기술

하리리 박사는 rMLS 기술이 광범위한 영향을 미칠 것이라고 말했다. 그는 “현재 대부분의 상업용 AI/ML 플랫폼은 AI/ML 알고리듬의 보안 문제를 해결하지 않았다. 따라서 rMLS 기술은 국방 분야와 상상용 두 시장에서 엄청난 마케팅 기회를 갖게 될 것이다.”고 했다.

그에 따르면 국방 분야에서는 AC2 미션 애플리케이션, 무인 자율 시스템(UAS), 우주 제품 및 서비스(위성 플랫폼, 지상국, 통신 프로토콜 등), 사이버 전투 관리 시스템을 포함한 군사적 임무에 중요한 애플리케이션에 사용되는 AI/ML 시스템을 강화할 것이다.

상용 시장에서는 스마트 시티 서비스, 스마트 전력 및 유틸리티 네트워크, 지능형 교통 시스템 등을 포함한 중요한 사이버 인프라 리소스와 서비스를 제어하고 관리하는 데 사용되는 AI/ML 시스템이 강화될 것이다.

하리리 박사는 “AI가 계속 발전함에 따라 GPT-4 및 BERT와 같은 대규모 언어 모델(LLM)은 추가적인 위협을 발생시킬 것이다. LLM 기반 공격은 정교한 피싱 계획을 생성하고, 데이터 해석을 변경하거나, ML 의사 결정을 손상시킬 수 있다. rML 시스템의 MTD 기반 접근 방식은 이러한 새로운 위협에 대응하는 데 고유하게 적합하여 LLM 적대적 공격에 대한 방어에 중요한 도구가 된다.”고 말했다.

차세대 AI 위협으로 인한 과제를 해결하기 위해 지속적으로 진화하고 있는 rMLS 시스템은 사이버 보안 산업에 중요한 우위를 제공할 것으로 보인다.

[알림] GTT KOREA와 전자신문인터넷이 오는 9월 27일(금) 서울 양재동 엘타워 그레이스홀(양재역)에서 공동으로 주최하는 “NABS(Next AI & Bigdata Summit) 2024”에서는 “비즈니스에 성공하는 AI & Big Data 혁신 전략”을 주제로 글로벌 AI와 빅데이터 산업을 이끌고 있는 글로벌 리더 기업들이 급변하는 기술과 비즈니스 환경에서 생산성과 효율성 및 비용 절감까지 조직과 비즈니스를 혁신할 수 있는 맞춤형 차세대 AI와 빅데이터 전략을 제시합니다.