AI PC는 CPU, GPU 및 신경망처리장치(NPU)를 결합해 생산성, 창의성, 게임, 엔터테인먼트, 보안 등 분야에서 새로운 가능성을 열어가고 있다. AI PC가 최상의 AI 경험을 제공하기 위해서 일상적인 작업을 돕는 AI 어시스턴트를 더욱 빠르고 효율적으로 개발하는 것이 중요하다.

인텔(Intel)이 몇 분 안에 맞춤형 AI 어시스턴트를 개발할 수 있는 ‘인텔 AI 어시스턴트 빌더(Intel AI Assistant Builder)’를 공개했다고 24일 밝혔다.

인텔 AI 어시스턴트 빌더

LLM, RAG 등을 기반으로 하는 AI 어시스턴트 빌더는 복잡한 과정 없이 세 단계로 AI 어시스턴트를 구축할 수 있다. 준비된 AI 어시스턴트 모델을 선택하고, 이를 다운로드 및 설치한 후 프로그램을 실행하면 된다.

이 빌더는 인텔 CPU, GPU, NPU를 활용하는 AI PC에서 성능 및 정확도가 최적화됐다. 특정 하드웨어 요구사항을 충족하는 모든 인텔 기반 AI PC에서 실행된다. 최소 사양은 인텔 코어 울트라 프로세서(시리즈 1), 16GB 램(RAM), 그리고 내장 인텔 그래픽(Integrated Intel Graphics)을 탑재한 PC다. 

초기 툴킷 다운로드에는 인터넷 연결이 필요하지만, AI 어시스턴트 빌더는 쿼리 처리를 클라우드가 아닌 로컬 PC에서 실행해 데이터 보안 우려를 해소할 수 있다.

이 빌더로 개발되는 AI 어시스턴트는 사용자가 채팅 창에서 질문을 하고, PDF, 스프레드시트, 프레젠테이션, 텍스트 파일 등 다양한 형식의 문서를 업로드하거나 삭제할 수 있다. 

또한, 사용자의 질문에 맞춰 응답하며, 대화 기록, 관련 문서, 그리고 LLM의 내재적 지식을 바탕으로 학습하며, ‘욕설 필터’와 모델이 편향 없이 안전한 응답을 보장하는 ‘보조 안전 시스템’과 같은 AI 안전 장치를 갖추고 있다. 

도입 사례

AI 어시스턴트 빌더는 전 세계 PC 제조업체(OEM)와 독립 소프트웨어 벤더(ISV)들이 활발히 활용하고 있다. 또한 인텔의 주요 파트너들은 AI 어시스턴트 빌더를 활용해 맞춤형 모델을 함께 개발하고 있다.

전자제품 제조 기업 에이서(Acer)는 인텔 AI 어시스턴트 빌더를 활용해 3일 만에 카메라 기반 온라인  AI 세일즈 어시스턴트의 POC를 개발했다. 에이서의 카메라 비전 기술을 활용한 이 어시스턴트는 화상 회의 중 제품을 인식하고, 영상 피드에서 제품에 대한 관련 정보를 제공할 수 있다.

이는 AI 어시스턴트 빌더의 RAG 메커니즘을 활용해 제품 특성을 학습하고, 에이서 고객들은 인텔 코어 울트라 프로세서가 탑재된 AI PC에서 이 솔루션을 사용할 수 있다.

한국에서는 인텔과 삼성전자가 온오프라인 서점 교보문고에 온디바이스에서 실행되는 생성AI 챗봇을 도입했다. 이 챗봇은 스마트 LLM을 기반으로 해 고객에게 책을 검색하고 맞춤형 정보를 제공한다.

인텔 올레나 주(Olena Zhu) 클라이언트 컴퓨팅 그룹 수석 엔지니어는 “인텔 고객들은 전체 개발 시간을 단축하고 자신만의 스마트 솔루션 출시 속도를 앞당길 수 있다.”라고 말했다.