책임 있는 AI 개발이 글로벌 AI 시장에서 핵심 가치로 떠오르면서, AI의 설계와 운영 단계에서부터 안전성과 투명성을 확보하는 기술에 대한 수요가 증가하고 있다. 특히 생성AI의 확산과 함께, 모델 학습·배포·모니터링에 이르는 전 과정을 통합적으로 보호할 수 있는 보안 프레임워크의 필요성이 커지고 있다.

AI 데이터 인프라스트럭처 및 전문 DaaS(Data-as-a-Service) 솔루션 기업 센티픽(Centific)이 AI 보안 전문 기업 버추AI(Virtue AI)와 전략적 파트너십을 체결하고, ‘책임 있는 AI 설계(Responsible-AI-by-Design)’를 기반으로 한 통합 솔루션을 선보인다고 밝혔다. 

양사는 AI 데이터 수집부터 고도화, 배포, 사후 모니터링까지 모든 과정에 보안 및 규제 대응 기능을 내장한 플랫폼을 공동 제공하게 된다.

책임감 있는 AI 기술 통합

이번 파트너십으로 센티픽은 자사 AI 데이터 파운드리(AI Data Foundry) 플랫폼에 버추AI의 주요 기능을 통합했다. ‘버추 가드(Virtue Guard)’는 텍스트·이미지·음성·영상·코드 등 멀티모달 데이터를 대상으로 90개 이상 언어, 320개 이상의 리스크 요소에 대해 30배 빠른 속도로 실시간 감시 및 차단 기능을 제공한다.

‘버추 레드(Virtue Red)’는 AI 모델에 대한 자동화된 레드팀(공격 시뮬레이션) 및 벤치마킹을 지속적으로 수행하며, ‘버추 에이전트(Virtue Agent)’는 정책에 맞춰 안전하게 동작하는 에이전트형 AI 시스템 운용을 지원한다. 이 모든 기능은 센티픽의 전문가 기반 데이터 서비스(DaaS)와 인간 개입(HITL) 체계와 결합돼 글로벌 230개 이상 언어에 걸쳐 적용 가능하다.

규제 대응부터 보안 강화까지

센티픽과 버추AI의 통합 솔루션은 사전·사후 위험 요소 감지를 기반으로, 모델 개발부터 실서비스 환경까지 전 주기에 걸친 지속 가능한 보안 및 감사 기능을 제공한다. 특히 콘텐츠 정책 준수, 접근성(ADA) 규정 충족, 로컬라이제이션 등 다양한 워크플로를 자동화해 운영 리스크를 최소화한다.

또한 양사는 생성AI 기업들이 보안이나 규제 대응을 사후 적용하는 기존 방식에서 벗어나, 설계 초기부터 ‘책임 있는 AI’를 내장해 빠르고 안전한 AI 개발을 지원한다. 이는 경쟁사가 고객 데이터를 유출·악용할 수 있는 우려를 차단하고, 데이터 보호 측면에서도 독립성과 투명성을 확보할 수 있게 한다.

센티픽 바수데반 순다라바부(Vasudevan Sundarababu) 데이터 및 AI 최고책임자는 “수천 개의 모델이 빠르게 생산되는 지금, 버추 AI의 보호 기능을 통합해 고객들이 사전·사후 위험을 줄이면서도 개발 속도를 유지할 수 있게 됐다.”라고 말했다.

버추AI  보 리(Bo Li) 공동창업자 겸 CEO는 “센티픽의 데이터 기반 인프라는 책임 있는 AI를 위한 최적의 기반”이라며, “이번 협력으로 엔터프라이즈 수준의 생산 파이프라인에 책임감 있는 AI 기능을 완전히 내장할 것”이라고 말했다.