AI 및 데이터 보안 거버넌스 전문 기업 프라이버세라(Privacera)가 ‘생성AI 데이터 보안 동향’ 보고서를 발표했다. 이 보고서는 2023년 10월 3일부터 6일까지 미국 소재 최고 정보 책임자(CIO), 최고 정보 보안 책임자(CISO), 최고 데이터 책임자(CDO) 및 책임자 250명을 대상으로 실시한 설문 조사를 토대로 한다.

보고서에 따르면 최고 정보 책임자(CIO), 최고 정보 보안 책임자(CISO), 최고 데이터 책임자(CDO), AI 책임자를 포함한 압도적 다수의 비즈니스 리더(96%)가 자신의 업무를 위해 생성AI를 구현했거나 탐색하고 있다. 이들은 비즈니스 및 제품 개선에 중점을 두고 있으며, 66%는 생성AI 모델의 오용을 방지하기 위해 AI 데이터 보안 및 거버넌스 전략을 구현할 계획이다.

응답자의 절반 이상(52%)이 이미 생성AI를 비즈니스 프로세스 및 제품에 통합했으며, 또 다른 44%는 도입에 강한 관심을 표명했다. 이 중 53%는 조직 내에서 데이터 보안을 강화하기 위해 기술을 활용하는 데 큰 관심을 표명했다.

데이터 보안 및 거버넌스 전략 우선

생성AI를 수용하거나 탐구하는 응답자의 2/3(66%)는 AI 데이터 보안 및 거버넌스 전략 구현을 우선시한다고 답했다. 또한 응답자의 57%는 전용 데이터 보안 플랫폼 활용을 선호한다고 답했다.

특히, 데이터 보안에 대한 일관되고 자동화된 접근 방식의 중요성(98%)과 개별 사용 사례에 대해 다양한 보안 도구를 사용하려는 의도(64%) 사이에 차이가 있는 것으로 나타났다. 이는 특히 조직이 다양한 AI 모델 사용과 관련된 잠재적 위험을 깨닫게 되므로 통합 데이터 보안 프레임워크를 구축해야 한다는 것을 분명히 나타내고 있다.

피엣 롭서(Piet Loubser) 프라이버세라 마케팅 SVP는 "생성AI, 공개 및 비공개 대형 언어 모델의 출현으로 조직은 최신 AI 애플리케이션의 엔드투엔드 라이프사이클의 일부로 범용 데이터 보안 및 거버넌스를 배포하고 적용하기 위한 전략을 찾고 있다."라며, "이러한 광범위한 보안 고려 사항에는 AI 모델의 교육 및 미세 조정을 위한 데이터의 보안 및 규정 준수 사용이 함께 포함되어야 한다. 모든 규모의 기업이 보안을 우선시하지만 특정 사용 사례에 대한 도구와 포인트 솔루션을 결합하는 것만으로도 충분하지 않다. 데이터 기반 조직에는 광범위한 사용 사례와 데이터 애플리케이션을 효과적이고 대규모로 보호하기 위해 포괄적이고 통합된 데이터 보안 플랫폼이 필요하다."고 말했다.

데이터 유출 및 위반이 가장 큰 우려

데이터 유출 및 위반은 조직의 가장 큰 우려 사항으로 나타났으며, 49%는 생성AI 사용의 잠재적인 취약성에 대한 우려를 표명했다. 그 다음으로는 응답자의 39%가 남용/데이터 편견을 우려 사항으로 꼽았다. 또한 37%는 생성AI 구현으로 인해 고객 신뢰가 훼손될 수 있다는 우려를 표명했다.

롭서는 "생성AI 채택이 다양한 비즈니스 부문에서 지속적으로 성장하면서 데이터 보안 및 규정 준수에 대한 우려도 지속된다는 점을 인식하는 것이 중요하다."라며, "오늘날 많은 사용 사례는 내부 챗봇이나 생산성 향상에 초점을 맞추고 있지만 모두가 이러한 애플리케이션을 고객에게 제공하고 수익을 창출할 수 있는 방법을 찾고 있다. 혁신과 민감한 정보 보호 사이의 적절한 균형을 맞추는 것이 최우선 과제이다. 프라이버세라에서는 이러한 기회와 위험을 이해하고 있으며 진화하는 생성AI, 데이터 보안 및 거버넌스 환경을 다루는 통합 데이터 보안 플랫폼을 제공하기 위해 최선을 다하고 있다."고 말했다.

생성AI를 비즈니스에 효과적으로 활용하는 방법

이들 조직 중 거의 절반(48%) 이 향후 2년 동안 생성AI에 최대 100만 달러를 할당할 계획이며, 이는 이 혁신적인 기술에 대한 상당한 투자를 강조한다. 계획된 투자가 없음은 0%로 나타나 전반적으로 생성AI를 비즈니스 운영에 통합하려는 광범위한 의지를 보여준다.

조직이 생성AI 보안의 진화하는 환경을 탐색함에 따라 프라이버세라는 기업이 생성AI를 안전하고 효과적으로 활용할 수 있도록 지원하는 현재 사용 가능한 가장 포괄적인 AI 거버넌스 솔루션을 제공하는 데 전념하고 있다.

프라이버세라는 생성AI를 비즈니스에 활용하는 예를 다음과 같이 제시한다.

① 직원 교육 : 생성AI 애플리케이션에 대한 자신감을 구축하기 위해 직원 교육에 우선순위를 둡니다.

② 포괄적인 보안 정책 수립 : 적응형 액세스 제어, 최소 권한 액세스 및 정보 액세스에 대한 역할 기반 제어를 포함한다.

③ 통합 데이터 보안 플랫폼 : 다양한 사용 사례를 효과적으로 관리하려면 플랫폼을 선택하세요.

④ 실시간 제어 구현 : 사용자 속성 및 데이터 분류를 기반으로 암호화 및 마스킹을 적용하여 중요한 정보를 보호하는 데이터 보호 제어를 구현한다.

⑤ 종합 감사 중앙 집중화 : 모델 사용 및 상호 작용에서 얻은 데이터를 사용하여 사용자 행동, 보안 및 위험 패턴에 대한 통찰력을 얻어 보안 조치를 사전에 식별하고 시행할 수 있어야 한다.