자동차 업계에서는 AI가 자율주행 기술과 연계된 미래 기술로 인식되지만, 실제로는 이미 다양한 차량 애플리케이션에 활용되고 있다. 적응형 크루즈 컨트롤, 개인 맞춤형 인포테인먼트 시스템, 운전자 및 승객 모니터링 등 여러 기능이 AI를 통해 구현되고 있다.

Arm이 AI 기반 애플리케이션의 성능 최적화를 위한 소프트웨어 솔루션 'Arm 클레이디(Kleidi)'를 오토모티브 시장에 출시한다고 발표했다. 이를 통해 차량용 AI 모델을 더욱 빠르게 배포하고 최적화할 수 있도록 지원한다.

Arm 클레이디의 주요 특징과 도입 효과

Arm 클레이디는 2024년에 출시되어 모바일, 클라우드, 데이터센터에서 실행되는 AI 추론 워크로드를 자동으로 최적화하는 기술을 제공해 왔다. 클레이디는 ExecuTorch, llama.cpp, MediaPipe, PyTorch와 같은 AI 프레임워크에 이미 통합되어 있으며, 이를 통해 개발자들은 별도의 추가 작업 없이 AI 애플리케이션을 Arm 기반 플랫폼에서 즉시 최적화할 수 있다.

자동차 업계에서는 클레이디가 차량용 챗봇, 개인 맞춤형 운전자 추천 시스템, 이미지 및 동작 인식 개선, 차량 진단 및 문제 해결 등의 애플리케이션에서 성능을 크게 향상시키는 것으로 나타났다. 클레이디의 성능 최적화 기능이 주요 개발 프레임워크에 통합됨으로써, 차량 내 AI 애플리케이션은 더욱 빠르고 효율적인 운전 경험을 제공할 수 있다.

자동차 AI 성능 개선 사례

① AWS 자동차 챗봇 성능 10배 향상

AWS는 Arm과 코렐리움(Corellium)의 가상 플랫폼을 활용하여 소프트웨어 정의 차량(SDV)을 위한 AI 챗봇을 개발했다. 기존에는 물리적인 차량 사용자 매뉴얼을 참조해야 했지만, 이제는 챗봇을 통해 운전자가 직접 차량과 상호작용하며 정보를 얻을 수 있다. 최신 llama.cpp 버전에 통합된 Kleidi AI를 활용하여, AWS는 챗봇 응답 속도를 10배 향상시키고 응답 시간을 1~3초로 단축하는 데 성공했다.

② 빅원(VicOne)의 오토모티브 보안 대응 속도 향상

빅원의 xCarbon 온보드 솔루션은 차량 내 사이버 보안 위협을 감지하고 대응하는 AI 모델을 적용하고 있다. Kleidi의 최적화 기능을 활용한 결과, TinyLlama-1 1B 모델의 프리필 속도가 2배 증가했으며, 토큰 생성 속도는 60% 이상 향상되었다. 이를 통해 빅원은 추가적인 엔지니어링 작업 없이 더욱 신속한 보안 위협 대응이 가능해졌다.

③소나투스(Sonatus)의 AI 테크니션 빌더

AWS 그래비톤 기반으로 전환 소나투스는 AI 테크니션 빌더(Technician Builder)를 통해 OEM 제조업체들이 클라우드 환경에서 고객 서비스 에이전트를 손쉽게 구축할 수 있도록 지원하고 있다.

초기에는 클라우드 GPU를 사용했지만, 클레이디에 최적화된 프레임워크 덕분에 AWS 그래비톤(Graviton) 기반 아마존 EC2 인스턴스로 이전되었다. 이를 통해 AI 모델의 응답 속도를 유지하면서 네트워크 연결 없이도 차량 내 AI 워크로드를 실행할 수 있는 기반이 마련되었다.

오늘날 전 세계 자동차 제조사의 94%가 최신 차량 모델에 Arm 기술을 사용하고 있다. 이는 Arm 플랫폼이 자동차 업계에서 보편적으로 채택되고 있으며, 클레이디를 통해 AI 성능 최적화가 더욱 용이해졌음을 의미한다. 클레이디의 오토모티브 시장 확장을 통해, Arm은 클라우드에서 엣지까지 AI 개발자들에게 원활한 성능 가속화를 제공하겠다는 목표를 실현하고 있다.

Arm의 오토모티브 사업부 프로덕트 및 솔루션 부사장인 수라즈 가젠드라(Suraj Gajendra)는 "자동차 AI 애플리케이션이 점점 더 복잡해지는 가운데, 클레이디는 개발자들이 추가적인 작업 없이도 최적화된 성능을 경험할 수 있도록 지원하는 핵심 기술이 될 것이다."라며 "자동차 업계가 AI 중심의 미래로 나아감에 따라, Arm은 지속적인 혁신을 통해 AI 기반 차량 애플리케이션의 성능과 효율성을 더욱 향상시키는 데 집중할 것이다."라고 밝혔다.