기업들 사이에서 생성AI가 널리 채택되면서 실시간으로 대규모 실험이 진행되고 있다. 그러나 성AI의 이점은 부인할 수 없지만 가시성이 부족하면 생산성이 저하되고 보안, 쉐도우 AI, 거버넌스, 개인 정보 보호 등에 대한 위험이 높아질 수 있다는 조사 결과가 발표됐다.

생성AI 가시성 및 데이터 보안 기술 기업 포털26(Portal26, 구 타이태니엄(Titaniam))이 생성AI 상태에 대한 광범위한 조사 결과인 ‘기업간 AI활용 보고서’를 발표했다. 이 보고서는 센서스와이드(CensusWide)와 협력하여 400명 이상의 최고 경영진과 IT 전문가를 대상으로 실시한 설문조사를 토대로 한다.

보고서에 따르면 기업이 생성AI의 잠재력에 대해 낙관하고 있지만 AI 프로그램 운영에 대한 가시성을 확보하는 데 어려움을 겪고 있어 거버넌스, 데이터 보안 등에 심각한 위험이 발생하고 있다.

응답자의 무려 3분의 2가 작년에 생성AI 보안 또는 오용 사고를 인정했다. 73%는 이미 생성AI 관련 보안 사고를 경험했으며, 그 중 67%는 지난해에만 발생했는데 이는 새로운 프로그램으로 인한 것이다.

응답자의 대다수(84%)가 생성AI에 투자했거나 투자할 계획이 있는 반면, 이러한 생성AI 운영의 71%는 지난 2년 이내, 거의 ​​절반(49%)은 지난 12개월 이내에 시작되었다. AI를 채택한 기업의 응답자 중 85%는 개인정보 보호 및 보안 위험을 우려하고 있다.

극복해야 할 광범위한 위험

설문 조사에 따르면 알려지지 않거나 승인되지 않은 생성AI인 쉐도우 AI(Shadow AI) 사용이 58%, 데이터 개인정보 보호(56%)가 포함되어 비즈니스에서 매우 활성화되고 해결되지 않은 상태로 남아 있는 생성AI와 관련된 다양한 우려 사항이 밝혀졌다.

거버넌스(63%), IP 보호(62%), 교육의 편견(55%), 데이터 보안(60%), 직원 프롬프트 사용(63%), 직원 교육(58%), 규칙 및 규정 준수 모두 내부 및 외부(각각 64% 및 62%). 데이터 보안은 대규모 조직(직원 5,000명 이상)에게 특히 시급한 문제로 나타났다. 그 중 93%는 쉐도우 AI에 대한 우려가 높아졌다고 보고했다. 그 이유는 회사에 직원이 많을수록 악의적인 행위자나 부주의한 인적 오류가 발생할 수 있는 잠재적 진입점이 더 많아지기 때문이다.

낙관론 높은 생성AI

위험에 관계없이 생성AI가 비즈니스에 미치는 이점에 대한 낙관론은 강력하다. 응답자의 82%는 생성AI가 경쟁 우위를 제공한다고 높은 확신을 갖고 있다고 보고했다.

조직이 채택을 위해 노력하는 동안 설문조사를 통해 기업이 긴급 문제를 어떻게 처리하는지 조기에 엿볼 수 있다. 80%는 이미 안전한 사용을 활성화하는 데 필수적인 첫 번째 단계인 AI에 관한 지침과 정책을 제정했다. 한편, 68%는 직원이 실수로 개인 정보를 공유하거나 실수로 규정 준수 의무를 위반하지 않도록 허용 가능한 사용 정책을 만들고 공유했다.

교육에 대한 투자는 도구에 대한 투자

응답자들은 기업이 생성AI에 대한 부적절한 가시성으로 인해 발생하는 위험을 매우 심각하게 받아들이기 시작했다는 것이 분명하다. 거의 모든 응답자(99%)는 회사를 위한 생성AI 데이터 거버넌스 도구를 보유하고 있거나 이에 투자할 예정이라고 답했다.

33%는 이미 그러한 프로그램을 시행하고 있으며, 32%는 초기 대화 단계에 있다. 동시에 직원 생성AI 교육은 기술 개발에 뒤처져 있으며 대부분의 회사(58%)가 직원에게 생성AI 문제에 대해 연간 5시간 미만의 교육 및 훈련을 제공하고 있다.

아티 라만(Arti Raman) 포털26 CEO는 "대부분의 생성AI 프로그램은 거의 1년이 지나지 않았다. 기업이 생성AI가 제공할 수 있는 모든 혜택을 편안하게 누리려면 많은 기초 작업이 이루어져야 한다."라며, "보고서와 같이 이미 많은 기업이 가시성, 거버넌스와 관련된 인프라의 필요성을 절실히 인식하고  관련 기술에 대한 지출을 늘리고 있다는 점은 고무적이다. 이 프로세스는 아직 초기 단계에 있으며 앞으로 몇 달, 몇 년 동안 가시성 인프라에 대한 더욱 강력한 투자를 기대할 수 있다."고 말했다.

포털26의 새로운 AI TRiSM(인공지능 신뢰, 위험 및 보안 관리) SaaS 플랫폼은 깊은 통찰력과 분석을 통해 생성AI 채택 속도를 가속화한다. 이는 동일한 플랫폼을 통해 위험을 관리하기 위한 거버넌스 및 보안의 신속한 배포를 제공한다. 향상된 가시성, 실시간 모니터링 도구, 세분화된 데이터 개인 정보 보호 제어 등을 통해 기업이 AI의 잠재력을 최대한 활용하는 데 필요한 보안을 제공한다.