디지털 비즈니스 플랫폼 서비스나우(ServiceNow)가 고객을 위해 속도, 생산성 및 가치를 향상시키는 생성AI 기능, 케이스 요약(case summarization), 텍스트 투 코드(text-to-code)를 발표했다. 이 새로운 기능들은 서비스나우 LLM으로 구동되며, 반복적인 작업을 완화하고 생산성을 크게 향상한다. 또, 서비스나우는 IT 서비스 관리(ITSM), 고객 서비스 관리(CSM), HR 서비스 제공(HRSD)에 걸쳐 새로운 프리미엄 SKU를 제공하는 상용화에 대한 접근 방식을 발표했으며, 올해 9월 나우 플랫폼 밴쿠버(Now Platform Vancouver) 릴리스와 함께 제공할 예정이다.

케이스 요약과 텍스트 투 코드 기능은 모든 워크플로우 제품에 걸쳐 서비스나우 플랫폼에 도입되고 있는 나우 어시스트 제품군의 생성AI 기능으로 구동된다. 여기에는 조직이 서비스나우의 인스턴스를 마이크로소프트 애저 오픈AI 서비스(Microsoft Azure OpenAI Service), 오픈AI API LLM을 연결할 수 있는 생성형 AI 컨트롤러(Generative AI Controller), 고객의 자체 지식을 기반으로 자연어 응답을 제공하는 검색용 나우 어시스트(Now Assist for Search), 정보 검색에 소요되는 시간을 줄여 생산성을 극대화하는 버추얼 에이전트용 나우 어시스트(Now Assist for Virtual Agent) 등이 포함된다.

케이스 요약과 텍스트 투 코드는 모두 나우 플랫폼(Now Platform), 워크플로우, 자동화 사용 사례, 프로세스 등을 이해하고자 특별히 개발된 LLM을 기반으로 한다. 텍스트 투 코드 나우 LLM은 서비스나우가 주도하는 개방형 빅코드 이니셔티브를 통해 개발된 150억 개의 파라미터로 구성된 스타코더 LLM(StarCoder LLM)의 특수 버전을 기반으로 구축됐으며, 엔비디아 DGX 클라우드(NVIDIA DGX Cloud)를 비롯한 엔비디아 가속 컴퓨팅을 사용하여 학습, 튜닝됐다. 스타코더는 고성능, 투명성, 책임감 있는 생성AI를 준수하며, 또한 고객은 케이스 요약을 통해 마이크로소프트 애저 오픈AI 서비스나 오픈AI API LLM의 타사 LLM을 사용할 수 있다.

케이스 요약은 생성형 AI를 활용하여 IT, HR 및 고객 서비스 사례에서 고객 또는 사건의 세부 정보, 이전 접촉 지점, 관련 당사자들이 취한 조치와 최종 해결 방안을 읽고 요약해 정확한 케이스 요약 노트를 몇 초안에 작성한다. ‘필수적이지만 수동적인’ 과정을 간소화함으로써 내부 팀 간의 빠른 업무 이양이 가능하며, 생산성을 높이고 고객과 직원들에게 보다 간소화된 해결책을 제공한다.

서비스나우의 텍스트 투 코드는 개발자가 원하는 코드 유형에 대한 일반 자연어 텍스트 설명을 작성할 수 있으며, 나우 플랫폼의 생성AI는 텍스트를 고품질 코드로 제안해 변환하고 일부 경우에는 검토나 편집, 구현할 수 있는 완성된 코드까지 제공한다. 텍스트 투 코드는 기업 내 모든 부서에서 원활한 코딩 환경을 구축해 빠른 개발과 생산성 향상을 실현하도록 지원한다.