생성AI 기술이 실험실을 넘어 기업의 핵심 인프라로 도입되면서, 그에 따른 윤리적·기술적 리스크가 심각한 과제로 부상하고 있다. 특히 환각, 편향, 보안 취약점 등은 AI 모델 배포 이후 수정이 어렵고, 법적·평판·운영상의 위험을 수반하는 문제로 지적되고 있다. 기존의 가드레일이나 미세 조정만으로는 근본적인 문제를 해결하기 어려운 가운데, 이미 학습된 모델에서 이러한 문제를 ‘제거’하는 기술이 새로운 돌파구로 주목받고 있다.

머신 러닝 전문 스타트업 히룬도(Hirundo)는 총 800만 달러(약 110억 원) 규모의 시드 투자 유치를 발표했다. 이번 투자에는 매버릭 벤처스 이스라엘(Maverick Ventures Israel)이 주도하고, 슈퍼시드(SuperSeed), 알파 인텔리전스 캐피털(Alpha Intelligence Capital), 타흘스 VC(Tachles VC), AI.FUND, 플러그 앤 플레이 테크 센터(Plug and Play Tech Center)가 참여했다. 히룬도는 AI 모델이 훈련된 이후에도 환각, 편향, 악성 데이터, 기밀 유출 위험 요소를 소급적으로 제거할 수 있는 ‘머신 언러닝(Machine Unlearning)’ 기반 기술을 개발했다.

모델 성능 저하 없이 결함만 제거하는 신경외과적 접근

히룬도는 기존 AI 모델을 처음부터 다시 훈련하거나 전체 구조를 변경하지 않고, 이미 학습된 모델 내부에서 특정 문제 데이터를 ‘잊게 만드는’ 기술을 구현한다. 이는 생성AI 도입 시 수백만 달러에 이르는 재훈련 비용과 시간을 절감하며, 동시에 모델의 기능 저하 없이 신뢰성과 안정성을 높이는 접근이다. 히룬도의 기술은  라마(Llama), 미스트랄(Mistral), 젬마(Gemma)와 같은 오픈소스 LLM은 물론, 챗GPT, 클ㄹ드(Claude)와 같은 게이트 모델에도 적용 가능하다.

히룬도는 모델 내 수십억 개의 파라미터 중 환각이나 유해한 지식이 위치한 부분을 식별하고 제거하는 방식으로 작동한다. 딥시크-R1 연구에서는 편향을 최대 70% 제거했으며, 라마 기반 실험에서는 환각을 최대 55%, 프롬프트 주입(successful injection)을 85%까지 감소시키는 성과를 보였다. 또한 이 기술은 컴퓨터 비전, LiDAR, 레이더, 자연어처리(NLP) 기반 생성 모델과 비생성 AI 시스템 모두에 적용 가능하다.

고위험 산업에 적합한 AI 결함 제거 솔루션

히룬도의 솔루션은 금융, 의료, 방위 산업 등 미션 크리티컬한 AI 애플리케이션 환경에서 특히 높은 효과를 보이고 있다. 이미 다양한 글로벌 대기업과 정부 기관을 대상으로 시범 운영이 진행 중이며, 편향 제거와 보안 강화를 동시에 요구하는 고위험 분야에서 활용도가 높다는 평가다.

이번 투자 라운드를 주도한 매버릭 벤처스 이스라엘의 설립자 야론 카르니(Yaron Carni)는 “환각과 편향을 제거하지 않으면 AI는 불신을 조장하며 기업에 법적·재정적 위험을 초래한다”며, “히룬도는 사실과 차별 없는 정보를 기반으로 AI의 가능성을 실현할 수 있게 한다”고 평가했다.

슈퍼시드의 매니징 파트너 매즈 젠슨(Mads Jensen)은 “히룬도의 머신 언러닝 접근 방식은 오늘날 가장 진보된 AI 모델조차 겪고 있는 핵심 문제를 해결하는 기술”이라며, “AI 수명주기에서의 결함 제거라는 중요한 공백을 채운다”고 말했다.

히룬도의 공동 창립자이자 CEO인 벤 루리아(Ben Luria)는 “환각과 편향은 AI의 대규모 도입을 막는 본질적인 장애물이며, 히룬도의 기술은 이러한 문제를 정밀하게 제거하는 ‘신경외과 수술’과 같은 역할을 한다”며, “모델 정확도를 유지하면서 반복 가능한 프로세스를 통해 AI 도입의 신뢰도를 높일 수 있다”고 밝혔다.