생성AI 활용이 확산되면서 기업들은 더욱 정밀한 자동화와 복잡한 문제 해결 능력을 갖춘 AI를 필요로 하고 있다. 특히 금융·공공 분야에서는 민감한 데이터의 보안을 확보하면서 고성능 AI를 적용하는 기술이 필수로 부상하고 있다. 이러한 요구에 대응하기 위해 추론형 LLM(Large Language Model)의 중요성이 커지고 있다.

LG CNS가 글로벌 AI 유니콘 기업 코히어(코히어)와 공동으로 1110억개 파라미터를 탑재한 초대형 LLM을 개발했다.

LG CNS는 이번 모델과 더불어 지난 5월 발표한 70억개 파라미터의 한국어 특화 경량형 LLM, 그리고 LG AI연구원의 엑사원(EXAONE)까지 포함하여 다양한 규모의 LLM 라인업을 완비했다. 이를 통해 고객은 자사의 환경에 최적화된 에이전틱 AI를 구현할 수 있는 선택지를 확보하게 되었다. 에이전틱 AI는 AI가 스스로 추론과 판단을 통해 복잡한 작업을 자동 수행하는 기술로, 업무 자동화와 비즈니스 최적화에 높은 효용을 제공한다.

공동 개발된 LLM은 코히어의 기업용 모델 커맨드(Command)를 기반으로 하며, 여기에 LG CNS가 축적한 산업별 AI 기술력과 IT전문성을 통합해 개발되었다. 이 모델은 이미 RBC은행 등 글로벌 금융기관에서 활용된 바 있으며, 국내에서도 보안이 중요한 고객 환경에 맞게 온프레미스형으로 제공된다. 특히 모델 압축 기술을 적용해 GPU 2장만으로도 구동이 가능하며, 이는 일반적인 대형 LLM에 필요한 4장 이상의 GPU 대비 효율성과 경제성을 확보하는 구조다.

이번 LLM은 한국어·영어를 포함한 총 23개 언어를 지원하며, 히브리어와 페르시아어 같은 소수 언어도 포함되어 있다. LG CNS는 이를 통해 글로벌 적용 가능성과 로컬 언어 최적화를 동시에 달성할 수 있다고 밝혔다. 특히 한국어 평가에서는 KMMLU 및 KO-IFEval 테스트를 통해 기존의 글로벌 대형 LLM을 능가하는 성능을 입증하였다. KMMLU는 인문·사회·과학 등 전문가 수준의 지식을 평가하는 3만5천여 개 문항으로 구성되어 있으며, KO-IFEval은 대화 이해 및 지시 수행 능력을 평가하는 기준이다.

또한 추론 능력은 Math500과 AIME 2024 테스트를 통해 검증되었으며, 이 결과 GPT-4o, GPT-4.1, 클로드 3.7 소넷 등 글로벌 최상위 모델 대비 높은 점수를 기록했다. Math500은 대학 수준의 수학 문제 500개로 AI의 논리적 문제 해결 능력을 평가하며, AIME 2024는 미국 수학 경시대회 문제를 통해 AI의 수학적 추론력을 측정한다.

온프레미스 최적화와 소버린 AI 실현으로 보안성과 자율성 확보

LG CNS는 이번 LLM을 온프레미스 방식으로 지원함으로써 민감한 데이터의 외부 유출 없이 고객 인프라 내에서 AI를 운용할 수 있도록 했다. 이를 통해 기업은 자사 내부 데이터와 시스템을 통제하면서도 AI 성능을 극대화할 수 있게 된다. 이 구조는 특히 보안, 컴플라이언스, 내부 규정이 엄격한 산업에서 중요한 경쟁력으로 작용한다.

이와 함께 LG CNS는 고객이 자국의 언어, 법, 문화 등을 반영해 독립적인 AI를 자사 인프라 기반에서 직접 운영할 수 있도록 지원하는 ‘소버린 AI’ 개념을 실현하고자 한다. 소버린 AI는 국가나 기업이 주권을 갖고 AI를 자율적으로 운용하는 모델로, 이번 온프레미스형 LLM은 이를 가능하게 하는 기술적 기반을 제공한다.

LG CNS는 향후 코히어와의 협업을 지속하면서 LLM 성능 고도화와 사용자 환경에 맞춘 기능 개선을 지속적으로 추진할 계획이다. 이를 통해 금융·공공을 포함한 다양한 산업에서 추론형 AI 활용을 확대하고, 고객의 디지털 혁신을 주도하겠다는 전략이다.

LG CNS AI클라우드사업부장 김태훈 전무는 “차별화된 AI 역량과 경쟁력을 바탕으로 고객의 비즈니스에 특화된 에이전틱 AI 서비스를 제공하고, 고객의 AX를 선도하는 최고의 파트너로 자리매김할 것”이라고 말했다.