기업에서 생성AI를 활용한 업무 자동화와 의사결정 지원이 본격화되고 있지만, 실시간 맥락 기억 기능의 부재는 여전히 주요한 기술적 한계로 작용하고 있다. 대화형 AI가 수개월 전 또는 이전 세션의 내용을 인식하지 못하는 구조는 프로젝트 지속성, 규정 준수 검토, 복잡한 문제 해결에 있어 비효율을 초래하고 있다. 특히 금융, 보안, 컴플라이언스 등 고위험 산업군에서는 동일한 이슈가 반복되며, 수작업 기반의 기록 복원 과정이 발생하는 문제가 꾸준히 제기되고 있다.

이에 따라, 세션 간 AI의 지속적인 맥락 인식, 법적 증거로 활용 가능한 감사 추적 기능이 동시에 가능한 신뢰성 높은 AI 메모리 기술에 대한 요구가 커지고 있다.

지속형 AI 세션 인프라를 제공하는 하모닉OS(HarmoniqOS)는 기업용 생성AI 메모리 시스템 ‘PASMS(Persistent AI Session Management System)’ 기반의 대화 기억 기술을 공식 시연했다. 이 기술은 시간, 모델, 세션을 초월하여 동일한 AI가 완전한 대화 맥락을 복원할 수 있는 구조로, 마이크로소프트 디펜더(Microsoft Defender)와 애저 로그 애널리틱스(Azure Log Analytics)에 대한 약 1년 전의 대화를 완벽하게 이어가는 성능을 입증했다.

고압축·고충실도 기술로 수십만 토큰 실시간 처리

하모닉OS의 PASMS 엔진은 총 73만7852개의 실제 토큰으로 구성된 60건의 기업 대화 데이터를 기반으로 검증되었으며, 최대 93%의 압축률과 평균 75.4%의 정보 충실도를 유지하는 것이 특징이다. 핵심 기술은 단순한 데이터 저장이 아닌, 실제 의사결정 이력, 기술적 문맥, 규정 미이행 상태 등을 통합적으로 보존한다는 점이다. 압축 알고리듬은 대화 내 비즈니스 우선순위를 자동 인식하며, 정보 손실 없이 의미 구조를 유지한다.

이 기술은 토큰 기반 정보를 최대 96%까지 압축 가능하며, 1000개 미만의 토큰으로 2만1000개 수준의 대화를 대표할 수 있다. 시맨틱 검색, 메모리 로딩, 규정 검토 요청 등 모든 작업은 SHA-256 기반 해시 처리로 실시간 기록되며, 법원 제출용 증거 수준의 변조 방지 감사 추적을 생성한다.

규정 준수와 설명 가능한 인지 구조로 신뢰성 확보

PASMS는 단순한 기술적 기억을 넘어 기업이 요구하는 설명 가능성과 규정 준수를 모두 충족하도록 설계되었다. 이는 NIST 프레임워크, GRC(거버넌스·리스크·컴플라이언스) 논의, 기술 명세서 기준으로 검증되었으며, 블랙박스 형태로 작동하는 기존 생성AI 시스템과의 차별성을 강조한다. 하모닉OS는 PASMS 기술을 통해 수개월 혹은 수년간의 기업 맥락을 안정적으로 기억하는 AI 인프라를 제공함으로써 AI 기반 의사결정의 연속성과 책임성을 동시에 확보할 수 있도록 지원한다.

하모닉OS는 PASMS를 통해 기업 전용 LLM 운용을 위한 ‘인지 신뢰 계층’을 제공한다. 이 시스템은 모든 기업용 생성AI 도입 환경에 통합 가능한 형태로 설계되어 있으며, 현재 6개의 관련 특허를 출원 중이다. 기술은 즉시 프로덕션 환경에 적용 가능하며, 전략적 인수를 통해 상용화가 진행 중이다. 현재는 미국 미시간주에서 본사를 두고 서비스 기반을 확대하고 있으며, 향후 다양한 LLM 모델과 연동 가능한 오픈 구조로 확장될 예정이다.

하모닉OS의 개발자이자 창립자인 코디 포드(Cody Ford)는 “블랙박스 AI는 죽었다. 이것이 바로 관리형 인지다”라고 강조하며, PASMS 기술이 단순한 기술적 개선이 아닌, 기업의 AI 인프라 설계 철학을 전환하는 전환점이라고 설명했다. 또한 “우리 기술은 기존 경쟁사보다 10배 더 많은 대화 기억을 압축할 수 있으며, 엔터프라이즈 환경에서 설명 가능한 AI를 가능하게 한다”고 밝혔다.

[알림] GTT KORE GTT SHOW는 오는 8월 12일 오후 2시부터 3시까지 “피해 큰 BFPdoor 같은 커널 기반 악성코드 막는 EDR과 마이크로세그멘테이션 실전 보안 전략”을 주제로 웨비나를 진행합니다. BPFdoor 같은 커널 기반의 악성코드가 사용하는 공격 기법과 침투 단계별 위협의 소개, EDR과 마이크로세그멘테이션이 어떻게 상호보완적으로 작동하여 침입 초기 탐지부터 내부 확산 차단까지 이어지는 보안 체계의 구축 전략과 새로운 형태의 변종 공격에 유연하게 대응하는 제로 트러스트 기반 보안 전략을 실전 사례와 함께 제시합니다.