아파치 랭거(Apache Ranger)와 종합적인 생성AI 거버넌스 솔루션 제공업체가 설립한 AI 및 데이터 보안 거버넌스 기업인 프라이버시라(Privacera)는 ‘프라이버시라 AI 거버넌스(PAIG)’ 솔루션을 오픈 소스화한다고 발표했다. PAIG 오픈 소스 소프트웨어(PAIG OSS)는 최고 수준의 윤리, 개인정보 보호 및 보안을 준수하면서 혁신적인 생성AI 애플리케이션을 구축할 수 있도록 지원하는 오픈 소스 프레임워크이다.

책임감 있고 안전한 혁신을 위한 프레임워크

생성AI의 도입은 대부분의 기업이 예상했던 것보다 더 빨리 진행되고 있으며, 글로벌 2000대 기업 중 10%가 이미 생성AI 프로젝트를 실무에 적용 중인 것으로 알려졌다. 하지만 민감한 기업 또는 개인정보와 관련된 AI 애플리케이션의 위험은 점점 더 명확해지고 있다.

규모가 큰 기업은 생성AI를 도입하기 전에 엔드투엔드 솔루션 파일럿 테스트를 고려해야 한다. 문제가 발생한 후에 보안과 거버넌스를 추가하는 것은 위험하다. 반면에 규모가 작은 기업은 민감하고 구조화되지 않은 반구조화된 데이터 및 구조화된 데이터를 보호하기 위한 쉽게 사용할 수 있는 방법이 필요하다.

PAIG OSS는 모든 규모의 기업이 안전한 생성AI 솔루션을 파일럿 테스트하고 제품화하기 위한 강력한 오픈 소스 툴킷을 제공한다.

PAIG OSS의 주요 기능

∙확장성: 다양한 대용량 언어 모델(LLM), 벡터 데이터베이스(VectorDB), 오케스트레이터 및 기타 AI 도구와 완벽하게 통합된다. 이러한 확장성을 통해 개발자는 사용 가능한 최고의 기술을 활용하여 생성AI 애플리케이션을 강력하고 적응 가능하게 만들 수 있다. 광범위한 도구 에코시스템을 지원하여 사용자가 특정 요구에 맞춘 AI 솔루션을 구축할 수 있도록 지원한다.

∙보안 및 안전: NIST 및 OWASP를 포함한 주요 보안 프레임워크의 모범 사례 및 권장 사항을 구현한다. 이러한 종합적인 보안 조치는 AI 애플리케이션을 광범위한 위협으로부터 보호하고 민감한 데이터를 안전하게 보관하며 AI 시스템의 무결성을 유지한다. 이는 개발자가 가장 엄격한 규제 환경에서도 AI 솔루션을 구축할 수 있도록 지원한다.

∙유연성: 유연성을 핵심으로 설계된 PAIG OSS는 사용자가 애플리케이션을 다시 작성하지 않고도 새로운 도구 및 솔루션을 통합할 수 있도록 지원한다. 이러한 맞춤 설정 가능한 접근 방식을 통해 기업은 새로운 규정에 적응하거나 최신 AI 혁신을 통합하는 등 끊임없이 AI 기능을 발전시켜 새로운 과제와 기회에 대응할 수 있다.

∙관찰 가능성: 기업은 LLM 및 검색 증강 생성(RAG) 시스템에 대한 모든 호출을 모니터링하여 보안, 컴플라이언스 및 운영 검토를 위한 포괄적인 관찰 기능을 제공한다. 이러한 수준의 가시성을 통해 AI 운영의 투명성과 책임을 보장하고, 기업은 AI 배포를 제어하고 문제를 신속하게 해결할 수 있다.

∙미래 지향적 설계: 최신 보안 및 안전 솔루션을 포함하도록 지속적으로 업데이트되어 장기적인 관련성과 새로운 위협에 대한 보호를 보장한다.

∙사용자 중심: 사용자 요구에 초점을 맞게 설계된 PAIG OSS는 최상의 사용 가능한 포인트 솔루션을 통합한 강력한 프레임워크를 제공한다. 이를 통해 개발자는 AI 거버넌스 및 보안 복잡성에 얽매이지 않고 혁신과 문제 해결에 집중할 수 있다.

프라이버시라의 CEO 겸 공동 설립자인 발라지 가네산(Balaji Ganesan)은 “오픈 API를 표준화하고 커뮤니티 중심 접근 방식을 육성함으로써 혁신을 촉진할 뿐만 아니라 생성AI 개발이 윤리 기준과 다양한 관점과 일치하도록 보장한다. API 거버넌스 및 데이터 리더십은 AI 시스템에 대한 신뢰를 구축하고 이를 더욱 탄력적이고 안전하며 기업과 사회의 변화하는 요구에 적응할 수 있도록 만드는 데 중요하다.”고 말했다.