실시간 응답, 낮은 대기 시간, 네트워크 비용 절감, 데이터 보안 요구 증가 등으로 필요성이 대두된 에지 AI 가속기는 클라우드 서버 대신 사용자 가까운 디바이스에서 AI 연산을 수행하도록 설계된 하드웨어이다. 스마트폰, IoT 기기, 자율주행차 등에서 대규모 데이터 처리와 즉각적인 의사결정을 지원한다.

에지 AI 가속기는 저전력 고성능 ASIC, FPGA 기술의 적용과 함께 뉴로모픽 컴퓨팅, AI 모델 경량화, 칩-소프트웨어 통합 최적화의 방향으로 발전하고 있다. 이러한 기술은 산업별 맞춤형 솔루션 개발을 가능하게 하며 에지 디바이스의 AI 활용을 가속화하고 있다.

에지 AI 가속기 기업 멤리X(MemryX)가 미국 라스베가스에서 1월 7일부터 10일까지 개최되는 CES 2025에서 MX3 AI 가속기의 성능, 효율성, 다재다능성을 실제 에지 AI 응용 분야 시연을 공개한다고 밝혔다.

이번에 시연될 주요 내용은 ▲ 고급 감시, 안전, 분석 응용을 위한 AI 기반 비디오 관리 시스템의 100개의 동시 비디오 스트림 ▲4차산업 혁명을 위한 다이닉스(DYNICS) 하드웨어 및 텔릿(Telit) 소프트웨어와 함께하는 AI 기반 산업 제조 품질 검사 시스템 시연 ▲오픈 어휘 검출을 사용하는 최신 "제로 샷" 객체 검출 모델을 활용한 고성능 실시간 처리하는 욜로 월드(Yolo-World) ▲ 전력 소비 면에서 MX3 에지 AI의 성능 경쟁력을 보여주는 엔비디아 GPU와의 비교 시연 등이다.

2024년 4분기에 멤리X는 생산용 MX3 모듈의 가용성과 개발자 허브의 공개를 발표했다. 이는 최근 온라인 개발자 커뮤니티와 함께 AI 구현을 간소화하고 배포 일정을 가속화할 수 있는 전체 도구 및 자원 생태계를 제공한다.

멤리X는 속도나 정확성을 희생하지 않고 저전력 소비에 최적화되었고 광범위한 호환성으로 인기 있는 AI 프레임워크(TensorFlow, ONNX, PyTorch 등), 호스트 프로세서(x86, Arm, RISC-V 등), 운영 체제(Linux, Windows, Android 등)를 지원한다.

확장성 및 신뢰성이 높아 소비자 전자제품에서 산업 자동화에 이르기까지 복잡한 AI 작업을 손쉽게 처리할 수 있다.

멤리X CEO인 키스 크레신(Keith Kressin)은 "CES 2025는 멤리X의 생산 품질 하드웨어와 소프트웨어를 선보일 첫 번째 기회이다. 효율성, 확장성, 사용 용이성의 독특한 조합을 선보여 고객들이 AI 솔루션을 신속하고 효율적으로 배포할 수 있도록 했다."고 말했다.