기업용 AI 보안 및 신뢰 소프트웨어 기업 크래니엄(Cranium)이 대규모 AI 탐지 도구인 디텍트 AI(Detect AI)를 출시했다. 이 도구는 조직 내 AI 인스턴스 전반에 걸쳐 탁월한 가시성과 접근성을 제공해 보안 및 준수 팀이 며칠 또는 몇 주가 아닌 몇 시간 만에 모든 AI 시스템을 발견하고 레이블링할 수 있도록 한다.

크래니엄 디텍트 AI는 기존의 코드 분석 도구와 달리, 기업 규모의 코드베이스를 깊이 이해한다. 이 도구는 최첨단 AI와 결정론적 로직을 사용하여 AI 라이브러리, 모델, 데이터셋의 존재와 사용을 탐색하고 발견한다. 이를 통해 AI 시스템을 구축하는 데 사용된 코드에 대한 더 정확하고 심층적인 인사이트를 제공하며, 이러한 요소들을 외부에 보고할 수 있는 능력도 갖추게 된다.

한 포춘 50 생명 과학 고객은 중요한 AI 모델 개발이 이루어지는 위치를 식별하기 위해 AI 엔지니어들과의 회의에 수 시간을 소요하거나, 수동으로 저장소 프로젝트를 확인해야 했다. 대기업 고객들은 디텍트 AI를 활용하여 AI 거버넌스 및 보안 프로세스 초기에 수많은 시간을 절약하고 있다.

디텍트 AI의 자동 생성된 AI 인벤토리로 크래니엄은 대기업에서의 운영 거버넌스를 초기 단계에서부터 가속화하며, 엔드투엔드 AI 보안 및 신뢰 솔루션을 통해 AI 시스템을 가시화하고, 리스크 및 취약점을 식별하며, 내부 및 제3자의 준수 여부를 입증할 수 있다.

주요 기능으로는 ▲출처에서 직접 가져온 포괄적인 활성 AI 인벤토리 ▲조직 워크플로우에 방해가 없도록 자동화된 버전 관리 시스템(VCS) 속도 제한 감지 ▲모든 요청된 AI 시스템에 대해 신속하게 보고할 수 있는 완전한 AI 가시성 ▲포괄적인 AI 인벤토리로 전체적인 AIBOM 구축 등이 있다.

크래니엄 CEO인 조나단 댐브롯(Jonathan Dambrot)은 "대규모 조직은 AI를 수천 개의 인스턴스에 통합하고 있다. 새로 도입되거나 기존의 규제를 맞추기 위해, 기업들은 자신들의 AI 라이브러리, 모델, 데이터셋을 빠르게 찾아내어 리스크를 이해하고 문서화하려고 서두르고 있다."라며, "디텍트 AI로 기업들은 대규모 탐색 과정을 진정으로 시작할 수 있으며, 현재 및 미래의 AI 보안 준수 규정과 가이드라인을 충족할 수 있게 되었다."고 말했다.