개인정보 보호 및 보안 문제로 인해 학습 데이터를 수집하거나 활용하기 어려운 상황은 AI 모델 개발 현장에서 큰 제약 요인으로 작용하고 있다. 특히 사물인터넷, 스마트폰, 자율주행 등의 환경에서는 연산 자원 제한과 함께 데이터 부재 문제까지 겹치며, 경량화된 고성능 모델 구현이 매우 어려운 과제로 떠오르고 있다. 이에 따라 실제 데이터 없이도 성능을 유지할 수 있는 딥러닝 경량화 기술의 수요가 증가하고 있다.

서울대 강유 교수팀, 데이터 없는 AI 경량화 기술 ‘SynQ’ 개발

서울대학교 공과대학 컴퓨터공학부 강유 교수 연구팀은 훈련 데이터를 사용하지 않고도 고성능 딥러닝 모델을 경량화할 수 있는 기술 ‘SynQ(Synthesis-aware Fine-tuning for Zero-shot Quantization)’를 개발했다고 밝혔다.

해당 연구는 2025년 4월 24일부터 싱가포르에서 개최되는 세계적 AI 학술대회 ‘ICLR 2025’에 논문으로 채택되었으며, 학습 없이도 모델 정확도를 유지하는 점에서 주목을 받고 있다. ICLR은 딥러닝 및 기계 학습 분야에서 세계 최고 권위의 학술대회다.

기존 ZSQ 한계 극복...CAM 정렬과 소프트 레이블로 정밀도 확보

기존의 제로샷 양자화(ZSQ) 기술은 합성 데이터의 노이즈, CAM 불일치, 하드 레이블의 오류 등으로 인해 예측 정밀도가 낮아지는 문제가 있었다.

이에 강 교수팀은 ▲저역 통과 필터로 고주파 노이즈 제거 ▲사전 학습 모델과 양자화 모델 간 CAM 정렬 ▲난이도 기반 손실 함수와 소프트 레이블 도입이라는 세 가지 SynQ 핵심 기술을 통해 기존 ZSQ의 성능 한계를 극복했다. 이를 통해 합성 데이터만으로도 실제 데이터 없이 모델을 안정적으로 미세 조정하는 경량화 기술을 구현하는 데 성공했다.

SynQ 기술은 실제 데이터를 사용하지 않기 때문에 개인정보 보호 및 보안이 중요한 분야에서 높은 활용 가능성을 지닌다. 특히 스마트폰, IoT 기기, 자율주행 센서 등 자원 제약이 있는 엣지 디바이스 환경에서도 고성능 AI를 안정적으로 운용할 수 있게 해준다.

연구 책임자인 강유 교수는 “SynQ는 소규모 기업 및 기관도 학습 데이터에 대한 접근 없이 고성능 AI를 활용할 수 있도록 지원한다. 보안 문제를 줄이는 동시에 AI 대중화를 앞당길 수 있는 핵심 기술로 자리매김할 것”이라고 밝혔다.