오라클이 생성AI(Generative AI) 서비스 개발 계획을 발표했다. 오라클은 기업용 AI 플랫폼 제공 업체인 코히어(Cohere)와의 협업을 통해 네이티브 환경에서 생성AI 서비스를 제공함으로써, 기업 조직이 비즈니스 전과정의 프로세스 자동화와 의사결정 개선, 고객 경험 향상을 이룰 수 있도록 지원할 계획이다. OCI(Oracle Cloud Infrastructure)를 기반으로 구축되고, 오라클의 수퍼클러스터(Supercluster) 기능을 활용하는 오라클 생성AI 서비스는 애플리케이션에서부터 인프라스트럭처에 이르기까지 전반에 거쳐 적용될 예정이며, 높은 보안과 성능, 가치 제공을 목표로 삼고 있다.

코히어는 오라클과의 협력을 통해 자사의 생성AI 모델을 OCI에서 훈련, 구축, 배포할 예정이다. OCI는 클러스터당 1만 6000개 이상의 H100 GPU와 초저 대기 시간, 광대역폭을 제공하는 RDMA(Remote Direct Memory Access) 네트워크를 통해 뛰어난 성능과 낮은 비용의 GPU 클러스터 기술을 제공한다. 특히 이번 협력을 통해 LLM(Large Language Models) 훈련 가속화와 비용 절감 효과도 기대된다.

코히어 모델은 오라클의 클라우드 애플리케이션(SaaS) 포트폴리오에 직접 통합될 예정이다. 오라클은 코히어의 언어 모델을 오라클 퓨전 클라우드 애플리케이션(Oracle Fusion Cloud Applications)과 오라클 넷스위트(Oracle NetSuite), 오라클의 산업별 애플리케이션 등 다양한 비즈니스 애플리케이션에 내장함으로써 고객이 생성AI를 빠르고 안전하게 배포해 각종 비즈니스 과제 해결에 활용할 수 있도록 지원할 것이다.

오라클의 통합 클라우드 애플리케이션 포트폴리오와 데이터 관리 전문성, AI 인프라스트럭처와 코히어의 LLM의 결합을 통해 고객들은 뛰어난 데이터 보안과 개인정보 보호, 거버넌스 등의 장점을 누릴 수 있다. OCI의 생성AI 서비스는 고객기업이 자사 데이터에 대한 완전한 제어 능력과 소유권을 누릴 수 있게 해 준다. 또한 고객 데이터를 한데 섞지 않기 때문에 한 기업의 경쟁 우위는 해당 기업만의 것으로 남게 된다. 데이터 출처와 계보 액세스용 도구 역시 출시 예정이다.

오라클의 생성AI 서비스는 코히어의 LLM을 활용하며, 오라클의 산업 지식과 데이터 인사이트를 기반으로 맞춤화, 개선될 수 있다. 또한 고객은 자체 데이터를 사용해 이 모델을 추가로 정제해 특정 비즈니스 사용 사례들의 정확성을 높일 수 있다.

또한 ERP, HCM, SCM, CX 등 클라우드 애플리케이션 포트폴리오 전반에 생성AI를 내장함으로써 오라클은 고객이 기존 비즈니스 프로세스 안에서 최신 혁신 기술을 누릴 수 있도록 지원할 예정이다. 오라클은 헬스케어와 공공 안전을 위한 신규 모델 배포를 앞두고 있으며, 산업별 애플리케이션 전반에도 생성형 AI를 내장할 계획이다. 이 AI 서비스는 조직원의 생산성과 효율성을 끌어올리는 동시에, 개념 도출(ideation)이나 창의적인 활동, 부가가치 작업 등에 더 많은 시간을 할애할 수 있도록 지원하고, 전반적인 직원 경험도 개선해 줄 것이다. 또한, 오라클은 오라클 데이터베이스(Oracle Database)와 MySQL 히트웨이브(MySQL HeatWave)에 머신러닝 기능을 도입했을 때와 동일한 방식으로 생성AI 기능을 데이터베이스 포트폴리오에 내장할 예정이다.

고객들은 OCI에서 생성AI 서비스를 사용할 수 있으며, 퍼블릭 클라우드의 모든 이점을 활용해, 원할 때 온디맨드 방식으로 솔루션을 확장하고, 모델을 맞춤화하고, 비즈니스를 위한 개별 모델 엔드포인트를 생성할 수 있다. 또한, 오라클은 조직의 데이터센터에 생성AI 서비스를 제공해 자체 온프레미스 데이터와 애플리케이션을 결합할 수 있게 지원할 계획이다.

오라클의 클레이 마고요크(Clay Magouyrk) 오라클 클라우드 인프라스트럭처 총괄 부사장은 “코히어와의 협력을 통해 고객들은 생성형 AI를 자사 비즈니스에 손쉽게 도입할 수 있다. 고객은 코히어의 파운데이션 모델(Foundational models)을 통해 보유한 데이터를 안전하게 통합해 특정 모델의 훈련에 활용할 수 있으며, OCI를 통해 이를 AI 인프라스트럭처에 배포함으로써 이 모델이 제공하는 비즈니스 이점을 애플리케이션을 통해 즉각 경험할 수 있게 됐다”고 말했다.

코히어의 마틴 콘(Martin Kon) 회장 겸 최고운영책임자(COO)는 “오라클과 코히어는 데이터 보안과 모델 커스텀화에 중점을 두고 있으며, 우리의 목표는 기업이 비즈니스 가치를 창출할 수 있도록 지원하는 것”이라며, “오라클과 코히어는 전 세계 기업들이 자사의 AI 이니셔티브를 가속화하고, 더 큰 가치를 창출할 수 있도록 지원하는 동시에, 비즈니스 성공을 극대화할 수 있도록 확실한 데이터 보안과 개인정보 보호를 보장하는 것은 물론, 새로운 수준의 자동화 기능도 제공할 것”이라고 전했다.