머신러닝 관찰 솔루션 기업 아리제 AI(Arize AI) 구글 클라우드 넥스트 ‘23에서 대규모 언어 모델(LLM) 문제 해결 솔루션을 선보였다.

새로운 프롬프트 플레이그라운드를 포함한 아리제의 프롬프트 엔지니어링 워크플로우를 통해 팀은 개선이 필요한 빠른 템플릿을 찾고 실시간으로 반복하며 개선된 LLM 출력을 확인할 수 있다.

신속한 분석은 LLM 성능 문제를 해결하는 데 중요한 구성 요소이다. 종종 다양한 프롬프트 템플릿을 테스트하거나 더 나은 응답을 얻기 위해 반복하여 LLM 성능을 향상시킬 수 있다.

새로운 워크플로를 통해 팀은 ▲사용자 피드백 또는 평가 점수가 낮은 응답 파악 ▲불량 응답과 관련된 템플릿 식별 ▲기존 프롬프트 템플릿을 반복 ▲프롬프트 재생 영역에서 프롬프트 템플릿 간에 응답 비교 등을 할 수 있다.

아리제는 또한 검색 증강 생성 (RAG)을 사용하는 팀이 검색을 개선해야 하는 위치와 방법 문제를 해결하도록 추가 검색 및 검색 워크플로를 시작하고 있다. 새로운 워크플로는 팀이 검색에서 가장 관련성이 높은 정보를 검색하지 못한 경우 지식 기반(또는 벡터 데이터베이스)에 추가 컨텍스트를 추가해야 할 위치를 식별하고 궁극적으로 LLM이 환영을 받거나 차선의 응답을 생성할 수 있는 이유를 이해하는 데 도움이 될 것이다.

아파르나 디나카란(Aparna Dhinakaran) 아리제 공동 창립자이자 최고 제품 책임자는 "실제 작동하는 LLM 기반 시스템을 구축하는 것은 오늘날에도 여전히 너무 어렵다."라며, "우리의 솔루션은 업계 최초의 신속한 엔지니어링 및 RAG 워크플로우는 팀이 더 빠르게 가치를 파악하고 문제를 해결하는 데 도움이 될 것이며 궁극적으로 결과를 개선하고 산업 전반에 걸쳐 생성 AI 및 기반 모델 의 가치를 입증할 것이다."고 자신했다.