이젠 더이상 인공지능의 영역은 전문가의 영역이 아닌 시대가 됐다. AI나 자연어 처리 경험이 없어도 조직 데이터만을 기반으로 자유 형식 사용자 질문에 대한 근거 있는 답변을 제공할 수 있게 됐다. 게다가 생성AI의 환각에 대한 우려가 높아가는 가운데 정확성도 높은 생성AI도 기대할 만해졌다.

인공지능 전문 기업 AI21 랩스(Labs)가 생성AI를 통한 정보 쿼리의 효율성과 정확성을 개선하기 위해 디지털 자산에 내장할 수 있는 플러그 앤 플레이 엔진 ‘컨텍스추얼 앤서즈(Contextual Answers)’를 출시했기 때문이다. 이 엔진은 기업에 LLM(Large Language Model) 기술을 제공하여 모든 조직 데이터에 대한 사용자 질문에 즉시 답할 수 있게 지원한다.

최근 조사에 따르면 기업의 70%가 생성AI 활용을 모색하고 있지만, 생성된 콘텐츠의 정확성과 관련 위험에 대해 우려하는 비율이 90%에 이른다. 전통적인 생성AI의 가장 큰 위험 중 하나는 환각, 즉 많은 LLM이 알 수 없는 응답을 위조하는 경향에서 비롯된다. 컨텍스추얼 앤서즈는 업로드하기로 선택한 소스 문서(예: 헬프센터 라이브러리 또는 내부 지식 기반)를 기반으로 정확하고 관련성 있는 답변만 하도록 설계되어 환각을 방지한다.

기업들은 재무 보고서, 정책 또는 기술 매뉴얼을 포함하여 업로드한 데이터만 처리하는 엔드 투 엔드 솔루션으로 콘텍스추얼 앤서즈를 통합할 수 있다. 업로드된 문서는 다시 포맷할 필요가 없다. 비즈니스 고객이든 내부 직원이든 최종 사용자는 이 기능을 사용하여 "안드로이드에서 앱을 다운로드할 수 있습니까?" 혹은 "분실한 직원 카드를 어떻게 제출합니까?"와 같은 자유 형식의 질문을 작성할 수 있다. 이 모델은 조직의 업로드된 지식 기반 내에서 상황에 따른 간결한 답변을 제공하므로 최종 사용자가 고객관리팀이나 관리자에게 문의할 필요가 없다.

불안정한 LLM과 직접 작업할 때 엔지니어가 다양한 연습 프롬프트를 수행하는 동시에 다양한 조건에서 모델 성능을 평가해야 하는 것과는 달리, 컨텍스추얼 앤서즈는 AI(기계 학습 또는 자연어 처리) 경험과 엔지니어링 지식이 거의 없는 상태에서도 실행할 수 있다.

컨텍스트 창이 없으므로 조직은 기술 매뉴얼, 재무 보고서, 제약 기록을 포함하여 수억 개의 문서를 무제한으로 업로드할 수 있다. 또한 언어에 대한 깊은 이해를 바탕으로 철자 오류와 누락된 단어를 지원하고 문법 오류에도 불구하고 검색 쿼리를 수행한다.

컨텍스추얼 앤서즈는 CRM 및 독립 소프트웨어 공급업체, 금융 서비스 기관, 교육 서비스 제공자, 법률 서비스 및 보험업계, 영업 및 마케팅, 현장 기술자 등 다양한 분야에서 활용 가능하다.

AI21 랩스는 이 기능을 소비자 플랫폼인 ‘워드튠(Wordtune)’에 내장하여 쓰기 및 읽기를 향상하고 가속화하여 사용자가 업로드된 문서에서 선택한 정보를 빠르게 검색할 수 있도록 할 계획이다.