AI 솔루션 보안 업체인 히든레이어(HiddenLayer) SAI팀이 신경망 모델에 은밀한 백도어를 생성하는 새로운 방식인 ‘섀도로직(ShadowLogic)’이 발견됐다고 발표하며 주의를 당부했다.

이 방법은 공격자가 모델의 연산 그래프를 조작하여 모든 양식의 모델에 코드 없는 백도어를 심을 수 있어, AI 공급망에 중대한 위협이 된다. 생성AI 모델에서 이 취약점을 악용하면 어떤 사실이든 변경될 수 있어 허위 정보가 기하급수적으로 확산될 수 있다.

섀도로직은 미세 조정을 거쳐도 지속되는 백도어를 만들 수 있어 상당한 위협이 된다. 이로 인해 손상된 기반 모델은 특정 입력을 받았을 때 공격자가 정의한 동작을 하위 응용 프로그램에서 트리거할 수 있다. 이러한 기능은 AI 시스템과 관련된 위험을 높인다. 예를 들어, 제조 품질 보증을 담당하는 모델이 불량 제품을 검사에 통과시켜 소비자를 위험에 빠뜨릴 수 있다.

기존의 악성 코드 삽입 기술은 대개 훈련 데이터에 대한 광범위한 접근이 필요하거나 변경에 취약할 수 있지만, 섀도로직은 이 과정을 단순화한다. 이 기술을 사용하면 사전 훈련된 모델에 쉽게 이식할 수 있는 무코드 로직 백도어를 만들 수 있어 고도로 표적화된 공격이 쉬워진다.

히든레이어의 톰 보너 연구 부사장은 “연산 그래프 기반 백도어는 현대 AI 위협 환경에서 중대한 우려 사항”이라며 “섀도로직을 통해 기존 보안 통제를 우회할 뿐만 아니라 머신러닝 모델에 대한 잠재적 공격의 정교함을 높일 수 있다.”라고 말했다.