생성AI는 방대한 데이터 학습과 고도화된 서비스 구현으로 산업 전반 혁신을 이끌지만, 데이터센터 중심 구조로 인한 높은 연산 비용·전력 소모, 유료 API 과금 등으로 확산이 제한된다. 이에 저전력·저비용 온디바이스 AI 반도체의 필요성이 커지고 있다.

온디바이스 AI 반도체 기업 딥엑스(대표 김녹원)이 초저전력 생성AI 온디바이스 추론용 반도체 ‘DX-M2’ 개발을 위해 삼성파운드리 및 가온칩스와 2나노 공정 계약을 체결해 반도체 제작을 본격화한다고 13일 밝혔다. 

시제품 제작을 위한 MPW는 2026년 상반기 팹인 예정으로, 양산은 2027년으로 예상된다. 

초저전력·고성능 온디바이스 AI 구현

DX-M2는 고비용·고전력의 데이터센터로 전송될 대부분의 생성AI 트래픽을 온디바이스에서 초저전력 무과금 AI로 대체해 데이터센터 대비 수십 배의 전력 효율성과 낮은 탄소 배출량이 강점이다.

DX-M2는 5W 이하의 전력 소모로, 20B 파라미터 규모의 생성AI 모델을 초당 20~30 단어(Token Per Second)를 출력하는 속도로 실시간 추론할 수 있도록 개발되고 있다. 이는 로봇, 가전, 노트북 등 열과 전력 제한이 극심한 디바이스 환경에서도 전문가급 AI 모델을 온디바이스에서 독립적으로 실행할 수 있다.

DX-M2는 ‘딥시크’, ‘라마 4’ 등 20B급 모델을 MOE(Mixture of Experts) 구조를 활용해 100B급 준-AGI 성능을 실현한 생성AI를 구동 시연해 이들 고성능 생성AI 모델을 온디바이스에서 실시간으로 처리할 수 있는 솔루션을 제공하는 것을 목표로 한다. 이를 위해 딥엑스는 2024년 초부터 신규 생성AI 프로세서 설계에 착수, 올 초에 프로토타입으로 시연 가능한 수준으로 개발된 상태다. 

2나노 반도체 생태계 확산

한편, 딥엑스는 2년 전 비전 AI 특화 제품 ‘DX-M1’을 삼성의 5나노 공정에서 개발했으며, 현재 수율 최적화 작업에 집중하고 있다. DX-M1은 로봇, 스마트 카메라, 공장 자동화 등에 적용되며 글로벌 고객사와 양산 협력 개발을 확대하고 있다. 딥엑스는 생성AI와 멀티모달 AI를 아우르는 2세대 제품 DX-M2까지 확보했다.

이번 프로젝트는 2나노 시스템 반도체 생태계 조기 구축에 중요한 견인차 역할이 될 것으로, 국내 팹리스 산업의 고부가가치 반도체 산업 생태계가 본격적으로 확대되는 계기가 될 것이다.

딥엑스 김녹원 대표는 “DX-M2는 생성AI 기술의 대중화 및 산업화 시대를 여는 핵심 플랫폼”이라며 “앞으로도 기술의 장벽을 낮추고, 누구나 AI의 혜택을 누릴 수 있는 세상을 만들어가는데 기여하겠다.”라고 말했다.