데이터 유출은 엔터프라이즈 AI 코파일럿에서 발생하는 가장 큰 위협이다.

마이크로소프트가 최근 마이크로소프트 코파일럿 스튜디오를 발표하면서 전문 개발자와 일반 개발자 모두 코드 없이 독립형 맞춤 AI 코파일럿을 구축할 수 있게 됐다. 또한 마이크로소프트의 생성AI 코파일럿에 직접 플러그인을 구축할 수도 있다.

따라서 모든 기술적 배경을 가진 사람들은 기업 데이터 및 시스템에 광범위하게 액세스할 수 있는 강력한 엔터프라이즈 AI 코파일럿을 만들 수 있다.

생산성과 효율성 측면에서는 놀랍지만, 시민 개발자가 기업 비즈니스 프로세스에 AI 에이전트를 내장할 수 있다는 것은 엄청난 위험이 될 수 있다. 코파일럿을 비즈니스 데이터와 개방형 웹에 연결하는 실수로 인해 데이터가 유출된다면, 개발을 위한 적절한 가드레일 없이 사용자 사칭, 비밀 노출, 과도한 데이터 공유가 발생할 수 있다.

JP 모건 체이스와, 삼성, 미국 우주군과 같은 몇몇 유명 기업들은 사이버 보안 문제로 인해 지난 몇 달 동안 직원의 생성AI 사용을 제한하기도 했다.

로우코드/노코드 및 생성AI 기반 개발 보안 기업 제니티(Zenity)는 맞춤형 엔터프라이즈 AI 코파일럿 또는 임베디드형 생성AI 코파일럿을 지원한다고 발표했다.

제니티는 마이크로소프트 코파일럿 스튜디오 내에 구축된 모든 사용자 정의 코파일럿과 이후에 AI 코파일럿으로 구축되는 응용 프로그램을 식별한다. 또 민감한 셰어포인트 사이트를 인터넷에 노출하는 코파일럿과 같이 기업 데이터를 유출하는 코파일럿을 찾아낸다.

자동 위험 평가 및 해당 SBOM 파일을 통해 각 코파일럿과 후속 애플리케이션에 통합되는 구성 요소를 식별하고, 자동화된 교정 플레이북을 통해 위험하고 규정을 준수하지 않는 코파일럿의 데이터 유출을 방지한다.

[알림] GTT KOREA의 동영상 마케팅 플랫폼 GTT SHOW는 오는 11월 29일 수요일 오후 2시부터 오후 3시까지 “복잡한 제조 산업 환경을 간소화·효율화하는 ‘혁신적인 뉴랜드코리아 스캐너’ 활용법”을 주제로 무료 온라인 세미나를 진행한다. AI기능을 탑재한 핸드헬드 바코드 스캐너, 고정 매립형 스캐너, 모바일 컴퓨터, 웨어러블 스캐너까지 다양한 제조 현장의 운영효율과 생산성을 높이는 스캐너 신기술과 자세한 활용법이 소개된다.