생성AI는 강력한 생산성 향상 도구지만, 민감한 데이터 유출, 오용, 비윤리적 콘텐츠 생성 등의 위험이 동반된다. 이를 방지하려면 생성AI의 사용 현황을 모니터링하고 관리할 필요가 있다. 생성AI의 트래픽을 추적하면, 조직은 누가, 언제, 어떤 목적으로 AI를 사용하는지 확인할 수 있으며, 이를 통해 잠재적 보안 위협을 예방하고, 규정 준수를 보장할 수 있다.

생성AI의 트래픽을 자사의 서비스로 리다이렉션하는 과정은 안전한 AI 활용을 위한 핵심 단계이다. 이를 통해 조직은 생성AI와의 모든 데이터 교환을 중앙에서 제어하고 분석할 수 있다. 리다이렉션은 생성AI가 처리하는 데이터의 민감도를 평가하고, 비인가된 데이터 사용을 차단하며, 불법적이거나 비윤리적 활동을 실시간으로 감지하는 데 기여한다.

생성AI 관리 솔루션 기업 슈어패스 AI(SurePath AI)가 AWS의 연례 행사 ‘리인벤트(re:Invent)’에 참가해 조직의 생성AI 관리를 지원하는 ‘슈어패스 AI 디스커버리(SurePath AI Discovery)’ 서비스를 발표했다.

이 서비스는 조직들의 생성AI 적용 할 때의 원활한 업무 전환을 위해 개발됐다. SASE 도구를 활용해 생성AI 트래픽을 자사의 서비스에 리다이렉션하는 과정을 통해 사용 중인 생성AI의 리포트를 작성한다.

리포트에는 ▲조직 전체에 채택된 생성AI 앱 ▲배포된 생성AI 도구와 관련된 위험 ▲조직의 생성AI의 ROI 평가 ▲생성AI 활용 맞춤형 권장 사항 등이 기재된다.

리다이렉션을 통해 수집된 데이터는 생성AI 사용과 관련된 상세한 레포트를 작성하는 데 활용된다. 이러한 레포트는 조직이 생성AI의 활용 현황, 성능, 그리고 문제점을 한눈에 파악할 수 있다. 또한, 데이터 기반의 통찰력을 통해 최적의 활용 방안을 도출하고, 보안 강화 및 효율적 자원 배분이 가능하다. 이는 조직의 AI 전략을 더욱 정교하고 안전하게 만드는 데 중요한 역할을 한다.

또한 넷스코프(Netskope), 지스케일러(Zscaler), 팔로 알토 네트웍스(Palo Alto Networks) 등의 주요 보안 플랫폼과 통합할 수 있으며, 멀티 및 하이브리드 등 클라우드 전반에서 운영된다.

글로벌 보안 기업 옵티브(Optiv)의 마이크 피터스(Mike Peters) 파트너 및 연합부사장은 “슈어패스 AI는 기업의 AI 거버넌스에서 격차를 메우며, 기업들이 생성AI를 안전하고 효과적으로 활용하여 가치를 창출하는 데 필요한 통찰력을 제공한다,” 라며 “이 새로운 제품은 우리와 같은 파트너와 고객들이 실시간으로 생성AI 사용을 파악할 수 있게 해주며, 보안과 효율성을 높일 수 있는 실질적인 통찰력을 제공한다.”라고 말했다.