AI 기반 데이터 보안 기업 사이버해븐(Cyberhaven)이 발표한 ‘2024년 2분기 AI 채택 및 위험 보고서’에 따르면 AI 사용이 급증하면서 기업 데이터에 새로운 위험이 발생하고 있다는 것으로 나타났다. 이 보고서는 3백만 명의 근로자를 대상으로 한 기업을 대상으로 작성됐으며, AI 채택의 가속화와 그로 인한 위험을 경고하며, 기업들의 대응법을 제시한다.

보고서에 따르면 AI 사용이 전년 대비 485% 증가했으며, 이 중 90% 이상이 공공 AI 모델을 통해 회사 데이터를 노출시키는 개인 '섀도우 AI' 계정에서 발생한다.

보고서의 주요 내용은 우선 직장에서의 AI 사용 가속화되고 있다. 근로자들이 AI 도구에 투입하는 기업 데이터 양은 2023년 3월부터 2024년 3월까지 485% 증가하였으며, 이는 기하급수적으로 증가하고 있다. 2024년 3월에 기술 근로자의 23.6%가 AI 도구에 기업 데이터를 입력했으며, 이는 모든 산업 중 가장 높은 수치이다. 금융 회사의 직원 중 4.7%, 제약 및 생명과학 분야에서 2.8%, 제조업체에서 0.6%만이 AI 도구를 사용하고 있어 여전히 채택 초기 단계에 있다.

위험한 '섀도우 AI' 계정 사용이 증가하고 있다. 직장에서의 챗GPT 사용의 73.8%가 기업 계정이 아닌 계정을 통해 이루어지고 있으며, 이는 기업 버전과 달리 공유한 모든 정보를 공공 모델에 포함시킨다. 제미나이의 사용의 94.4%, 바드 사용의 95.9%가 비기업 계정에서 발생했다. AI 사용은 오픈AI, 구글, 마이크로소프트 제품이 주도하며, 직장에서의 AI 사용의 96.0%를 차지한다.

AI 사용이 민감한 기업 데이터를 포함한 다양한 유형으로 확대되고 있다. 근로자가 AI 도구에 투입하는 데이터의 27.4%가 민감한 데이터로, 이는 1년 전의 10.7%에서 증가한 수치이다. AI 도구에 투입되는 민감한 데이터 유형 중 가장 많은 비중을 차지하는 것은 고객 지원 데이터(16.3%)이며, 여기에는 지원 티켓에 포함된 기밀 정보가 포함된다. 다른 형태의 민감한 데이터로는 소스 코드(12.7%), 연구 개발 자료(10.8%), 인사 및 직원 기록(3.9%), 재무 문서(2.3%) 등이 있다.

대량의 민감한 기업 데이터가 '섀도우 AI' 계정으로 이동하고 있다. 근로자들은 기업 버전과 달리 공유한 모든 정보를 공공 모델에 포함시키는 개인 '섀도우 AI' 계정에 기업 데이터를 입력하고 있다. 근로자가 AI 도구에 투입하는 법률 문서의 82.8%가 비기업 계정으로 전송되어 정보가 공개될 위험이 있다. 소스 코드(50.8%), 연구 개발 자료(55.3%), 인사 및 직원 기록(49.0%)의 절반가량이 비기업 계정으로 전송되고 있다.

AI 생성 콘텐츠의 잠재적 위험이 우려되고 있다. 2024년 3월에 생성된 연구 개발 자료의 3.4%가 AI 도구에서 비롯되었으며, 특허 자료가 도입될 경우 위험을 초래할 수 있다. 소스 코드 삽입의 3.2%가 엔터프라이즈 승인 코딩 도구 외부에서 AI에 의해 생성되며, 이는 취약성을 초래할 수 있다. 그래픽 및 디자인 콘텐츠의 3.0%가 AI에서 비롯되며, AI 도구가 상표가 있는 자료를 출력할 수 있으므로 문제가 될 수 있다.

하워드 팅(Howard Ting) 사이버해븐 CEO는 "AI의 급격한 성장은 인터넷과 클라우드 컴퓨팅과 같은 과거의 변혁적 변화와 유사하다. 그러나 초기 클라우드 채택자들이 새로운 도전에 직면했던 것처럼, 오늘날의 기업들도 광범위한 AI 채택으로 인해 복잡성을 겪고 있다."며 "이번 보고서는 기술의 영향을 강조할 뿐만 아니라, 과거의 주요 기술 혁신에서 직면했던 것과 유사한 새로운 위험을 부각시킨다."고 말했다.