글로벌 기업들은 생성AI 활용 확산과 함께 데이터 주권·개인정보 보호 규제가 강화되는 환경에 직면하고 있다. 특히 금융, 정부, 제조 등 규제가 엄격한 산업군에서는 클라우드 기반 대신 데이터가 현장에서 통제되는 온프레미스 AI에 대한 수요가 빠르게 늘어나고 있다. 

엔터프라이즈 AI 전문 기업 APMIC(공동창업자·CEO 제리 우)가 온프레미스 AI 플랫폼 ‘프리브스테이션(PrivStation)’을 공식 출시했다고 밝혔다.

이 플랫폼은 정부, 금융, 제조 등 민감 산업을 대상으로 데이터 주권과 프라이버시를 보장하면서도 AI 구축 속도를 높이고 특화 모델을 개발할 수 있다. 현재 약 100개 엔터프라이즈 고객사가 1차 테스트에 참여 중이다.

투명성·규제 준수 강화 및 비용 절감

프리브스테이션은 엔터프라이즈 AI 도입에서 가장 큰 과제인 ▲투명성 ▲규제 준수 ▲비용 대비 성능을 해결한다.

AI 블랙박스 문제를 해소하기 위해 원본 문서 출처와 주석을 함께 제공해 추적 가능성을 보장한다. 노코드 플랫폼 ‘차이건(CaiGunn)’과 ‘프리브AI API(PrivAI API)’ 툴킷을 결합해 비개발자도 손쉽게 구축할 수 있고, 심화 개발도 가능하다. 엔비디아 RTX PRO 6000, H200, DGX B200/B300 등 3단계 GPU 옵션을 갖춘 올인원 어플라이언스로, 기업이 성능과 비용을 최적화할 수 있다.

또한 프리브스테이션은 엔비디아 NIM 최적화 추론 모델을 탑재했으며, 비주얼 랭귀지 모델(VLM)과 멀티모달 RAG 기술을 결합했다. 워드, TXT, PDF, HTML, 이미지 등 다양한 포맷을 처리할 수 있으며, 복잡한 PDF 테이블까지 완전하게 인식한다.

프리브스테이션은 금융권에서 내부 지식베이스와 규제 가이드를 결합해 상품 설명, 워크플로 안내, 규제 준수 조언을 실시간으로 제공할 수 있다. 또한 타이베이시 토지행정국의 분양주택 계약 Q&A 챗봇 ‘하이 랜디(Hi Landy)’에 적용돼, 음성·사진 기반 질의와 규제 해석 기능을 지원한다. 한 달간 500회 이상 사용되며 실질적 성과를 입증했다.

APMIC 공동창업자이자 CEO 제리 우는 “정부가 주권형 AI 투자에 나서는 지금, 온프레미스 AI는 부정할 수 없는 글로벌 트렌드가 됐다.”라며 “대만에서 쌓은 기술과 시장 기반을 바탕으로 미국, 일본, 동남아시아 진출을 본격화해, 민감 환경에서도 안전하게 AI를 활용하도록 돕겠다.”라고 했다. 

공동창업자이자 COO 아서 창은 “프리브스테이션은 민감 데이터를 현장에 완전히 보관할 수 있어, 기업이 기술을 쫓는 것이 아니라 통제 가능한 방식으로 AI를 성장 동력으로 전환할 수 있도록 한다”고 말했다.

APMIC은 온프레미스 AI 플랫폼 프리브스테이션을 통해 규제 산업의 AI 도입 장벽을 낮추고, 데이터 보안과 성능을 동시에 확보하는 전략을 추진하고 있다. 글로벌 확장을 가속화하는 가운데, 온프레미스 AI 시장의 선도 기업으로 자리매김할 전망이다.