스마트폰에서 고성능 AI 기능을 직접 실행하려는 제조사와 개발사 사이에서, 모바일 AP 성능 한계와 모델 무게가 가장 큰 병목으로 꼽힌다. 대형 생성AI 모델을 기기 안에서 즉시 처리하려면 연산 효율, 배터리 소비, 메모리 제약 모두를 동시에 해결해야 한다. 최근에는 클라우드 연결이 불안정한 환경에서도 끊김 없는 사용자 경험을 요구하는 흐름이 강해지면서 온디바이스 모델 최적화 기술의 중요성이 더욱 커지고 있다.

AI 경량화 및 최적화 기술 전문 기업 노타(대표 채명수)가 자사 AI 모델 최적화 기술을 삼성전자의 최신 애플리케이션 프로세서(AP) ‘엑시노스 2500’에 공급하는 계약을 체결했다고 26일 밝혔다.

이번 협력으로 노타는 삼성전자의 AI 모델 최적화 툴체인 ‘엑시노스 AI 스튜디오’에 핵심 기술을 제공하며, 엑시노스 2500 AP에서 고도화된 생성AI 경험이 구현될 수 있도록 기술적 기반을 마련했다.

엑시노스 AI 스튜디오는 고객이 개발한 AI 모델을 엑시노스 프로세서에 최적화해 효율적으로 구동할 수 있도록 지원하는 툴체인이다. 여기에 노타의 기술이 접목되면서 모델 최적화 효율과 성능이 향상됐고, 클라우드 연결 없이도 스마트폰에서 온디바이스 AI 경험이 가능하다.

삼성전자 모바일 AP S/W 개발팀 조철민 상무는 “엑시노스 AI 스튜디오에 노타의 AI 모델 최적화 기술이 적용되면서 온디바이스 AI 모델 개발 효율성이 전작 대비 향상되었다.”라고 말했다.

노타 채명수 대표는 “삼성전자와의 협업은 노타의 AI 최적화 기술이 글로벌 소비자용 제품에 적용되어 상용화된 의미 있는 사례”라며 “AI 반도체와 소프트웨어의 유기적 결합을 통해 온디바이스에서 고성능 생성AI를 구현했다.”라고 말했다.