많은 기업들이 프로덕션 환경에서 실패하는 생성AI 시스템으로 인해 환각, 프롬프트 인젝션 공격, 보안 위험과 같은 문제들을 겪고 있다.

자동화된 AI 평가 및 보안 플랫폼인 패트로누스 AI(Patronus AI)는 개발자들이 프로덕션 환경에서 AI 실패를 안정적으로 탐지하고 방지할 수 있는 셀프서비스 솔루션인 ‘패트로누스 API(Patronus API)’를 출시했다. 이 솔루션을 통해 기업들은 우수한 정밀도와 재현율로 환각, 안전 위험, 예기치 않은 행동으로부터 생성AI 시스템을 보호할 수 있다.

패트로누스 API를 통해 개발자들은 패트로누스 AI가 훈련한 최첨단 평가 모델에 접근할 수 있다. 여기에는 RAG(검색 증강 생성) 시스템의 부정확성을 감지하는 뛰어난 성능을 보이는 패트로누스 AI의 주력 환각 감지 모델인 링스(Lynx)가 포함된다. 또한 역량, 안전성, 정렬성 등 다양한 기준을 평가하는 LLM 심사관을 구성할 수 있는 유연성을 제공하여 모든 AI 사용 사례에 대한 다목적 솔루션이 된다.

개발자들은 웹 대시보드를 통해 패트로누스 API 로그를 추적하고 필터링하며, AI 제품 성능 스냅샷을 비교하고, 다양한 LLM 시스템을 실험할 수 있다. 또한 파이낸스벤치(FinanceBench), 엔터프라이즈PII(EnterprisePII), 심플세이프티테스트(SimpleSafetyTests) 등 패트로누스의 다양한 큐레이션된 데이터세트를 활용하여 AI 제품에 대한 표적 테스트를 실행할 수 있다.

패트로누스 API는 실시간 및 오프라인 사용 사례 모두에 맞춤화된 옵션을 제공하여 배포의 유연성을 보장한다. OWASP 및 NIST와 같은 산업 표준을 준수한다.

또한 프로그래밍 언어에 구애받지 않으며, 파이썬 SDK를 사용해 쉽게 통합할 수 있다.

개발자들은 특정 사용 사례에 대한 자체 LLM 심사관을 플랫폼에서 구성하고 패트로누스 API를 통해 접근할 수 있다.

패트로누스 AI의 CEO인 아난드 칸나판(Anand Kannappan)은 “많은 기업들이 현재의 솔루션으로는 효과적으로 해결하지 못한 환각, 보안 취약점, 예측 불가능한 행동과 같은 문제들로 프로덕션 환경에서 AI 실패를 겪고 있다. 패트로누스 API는 이러한 과제들에 대한 신뢰할 수 있는 해결책이며, 링스 환각 탐지 모델과 같은 최첨단 모델과 유연한 사용량 기반 가격 구조를 제공한다. 개발자들은 상당한 연구와 컴퓨팅 투자 없이도 가장 정확한 가드레일로 AI 시스템을 테스트하고 보호할 수 있다.”고 말했다.

[알림] 'GTT KOREA’와 ‘전자신문인터넷’이 공동으로 주최하는 “NSWS(Next Smart Work Summit) 2024”에서는 글로벌 스마트워크 솔루션 선도 기업들이 참여하여 최신 기술과 시장 동향, 그리고 기업이 당면한 문제의 해결 방안을 심도 있게 다룰 예정이다. 이번 서밋에서는 AI와 스마트워크를 활용한 혁신적인 업무 환경 구축 및 활용 전략 공유와 함께 전시 부스를 통해 기업에 필요한 다양한 스마트워크 활용법을 구체적으로 체험해 볼 수 있는 장도 마련된다.