올 한 해 최고 화두는 생성AI라 해도 과언이 아닐 만큼 전세계적으로 큰 영향을 끼쳤다. 오랜기간 사람들의 ‘이상향’에 머물렀던 AI가 생활과 비즈니스 전반에 사용될 수 있을 만큼 ‘대중화’에 가까워졌다. 수많은 기업들이 차세대 비즈니스의 주도권을 잡기 위해 저마다 다양한 AI 플랫폼과 솔루션을 내놓고 있다.

생성AI 등장이후 기대 이상의 재주에 놀라기도 했지만 그 이면에는 환각과 잘못된 정보, 그리고 범죄로 악용될 수 있다는 우려도 함께 증가하고 있다. 게다가 많은 기업들이 기술 자체 뿐만 아니라 이를 실제 활용할 수 있는 방안에 대해서 자신이 없는 그야말로 초기의 혼란 상태이다. 그래서 AI 기업들은 그들의 AI 제품과 서비스에 ‘신뢰’를 바탕으로 해야 한다.

AI 시대 기업에 필요한 것은 신뢰할 수 있는 데이터, 속도, 거버넌스를 통해 조직 전체에 AI를 활용하기 위한 전 과정을 아우르는 모든 기술과 서비스다. 그리고, 모든 클라우드 환경(온프레미스와 퍼블릭, 프라이빗 클라우드)에 걸쳐 실행할 수 있어야 한다.

구글, 오픈AI, 마이크로소프트 등의 AI 기술이 최근 목소리를 높이고 있지만 AI 기술에 가장 오랜 기간 연구하고 투자를 한 기업을 꼽으라면 많은 사람들이 IBM을 가장 먼저 올린다. 비즈니스의 요구조건이 시시각각 달라지는 AI 시대의 비즈니스를 위해 IBM은 AI 플랫폼 왓슨x를 올해 발표했다. 왓슨x는 기존 머신러닝이나 최신 파운데이션 모델을 구축, 개선할 수 있는 기업용 AI와 데이터 플랫폼으로 왓슨x.ai, 왓슨x.데이터, 왓슨x.거버넌스 등 3가지로 구성됐다.

한국IBM은 왓슨x.ai, 왓슨x.데이터를 이미 발표했으며, 14일 서울 여의도 한국IBM 사무실에서 기자간담회를 열고 AI 플랫폼의 완결편이라 할 수 있는 ‘왓슨x.거버넌스’를 발표했다.

이 자리에는 김현정 한국IBM 컨설팅 대표와 이지은 한국IBM CTO & 기술영업총괄 전무가 참석해 ‘기업의 생성형 AI 도입 시 고려 사항’과 ‘IBM 왓슨x.거버넌스 기술 및 제품 소개’의 시간을 가졌다.

AI 생애주기 거버넌스·AI 위험 요소 관리·규제 준수로 AI 신뢰 강화

김현정 대표는 ▲자사 데이터 및 기밀 유출, 데이터 품질 문제 ▲AI 모델에 대한 신뢰, 편향성, 투명성, 환각 문제 ▲유럽 및 북미를 시작으로 한국 정부까지 확대되고 있는 AI의 안전성과 신뢰성에 대한 법제화 및 기업에 대한 징벌적 규정 구체화 등 세 가지를 AI를 도입하고 확장하는데 있어 대표적인 도전과제로 꼽았다. 그리고 이를 해결하려면 기업이 신뢰할 수 있는 AI를 구축해야 한다고 강조했다.

생성AI 기술의 빠른 발전과 함께 증가하는 AI 위험 요소에 대한 대비책으로 김현정 대표는 “AI를 위한 데이터, AI 모델 그리고, AI 도입 및 확장 과정에서 신뢰성을 확보하는 ‘AI 거버넌스’에 대한 고려가 AI 도입 검토 시 처음부터 고려되어야 한다”고 조언했다.

IBM 왓슨x. 거버넌스의 기술과 제품에 대해 설명한 이지은 전무는 “왓슨x. 거버넌스는 ▲AI 생애주기 거버넌스 ▲AI 위험 요소 관리 ▲규제 준수 등 세 가지 부문의 기술을 제공하여 기업이 신뢰할 수 있는 AI를 운영할 수 있도록 지원한다.”고 밝혔다.

AI 생애주기 거버넌스는 IBM, 오픈 소스 커뮤니티 및 기타 모델 제공업체의 AI 모델을 관리, 모니터링 및 통제한다. AI 위험 요소 관리는 공정성, 편향성, 오류 및 새로운 LLM 매트릭스를 모니터링하여 위험을 사전에 감지하고 완화한다. 규제 준수는 AI를 관리하여 내부 정책, 업계 표준을 준수하고 전 세계의 향후 규제 및 정책에 대비한다.

왓슨x.거버넌스는 다양한 LLM과 머신러닝 모델을 배포하고 관리하는 데 어려움을 겪고 있는 기업을 위한 원스톱 솔루션이다. 기업이 여러가지 AI 모델에 대한 거버넌스 프로세스를 자동화하고 모니터링하며 시정 조치를 취하는 데 필요한 도구를 가시성과 함께 제공한다.

현재 왓슨x.거버넌스는 한국을 포함한 전 세계에서 정식 버전(GA)을 사용할 수 있다.

이지은 전무는 “한국을 포함한 각국 정부에서 AI 거버넌스에 대한 규제가 증가하고 있는 상황에서 신뢰성과 투명성을 높일 수 있도록 돕는 왓슨x.거버넌스의 역량은 그 어느 때보다 기업에게 더욱 필수적인 요소로 자리잡게 될 것”이라고 강조했다.

한편 앞서 발표한 왓슨x.ai는 IBM 왓슨x.ai는 차세대 기업용 AI 스튜디오로 AI 개발자들이 머신러닝을 기반으로 AI를 구축, 실행, 배포할 수 있도록 지원한다. IBM 왓슨 스튜디오 기술과 FM의 성능을 활용하는 최신 생성AI 기술을 결합했다. 이 AI 스튜디오는 고객이 자체적으로 구축하거나, IBM이 선별하고 학습시킨 독점적인 다양한 FM, 오픈소스 FM을 쉽게 활용할 수 있도록 하는 파운데이션 모델 라이브러리를 제공한다.

왓슨x.데이터(data)는 데이터 웨어하우스의 고성능 처리 기술과 데이터 레이크의 유연성을 함께 제공하는 데이터 레이크하우스 솔루션이다. 정형 데이터와 비정형 데이터를 자유롭게 저장, 활용할 수 있으며, 저렴한 개방형 스토리지를 지원하면서도 높은 성능을 제공한다.