최근 챗GPT, 바드 등 생성AI 모델(LLM)이 기업 업무 프로세스 전반을 빠르게 바꾸고 있다. 그러나 보안 분야에서는 “적극 도입 vs. 우려”라는 양면적인 분위기가 감지되며, 여전히 신중한 태도가 유지되고 있다.

이는 AI가 보안 자동화, 위협 탐지, 인텔리전스 분석 등을 혁신할 수 있는 가능성을 제공하는 한편, 데이터 유출, 악용 가능성, AI 자체의 취약점 등 새로운 보안 위협을 초래할 수 있기 때문이다. 특히, 기업 내 민감한 정보가 AI 학습 데이터로 활용될 가능성, 생성된 콘텐츠의 신뢰성 문제, 규제 준수 여부 등이 주요 우려 사항으로 작용하며, 도입과 우려가 공존하는 양상을 보이고 있다.

이스트시큐리티(대표 정진일)은 지난 12월 개최한 기업의 LLM 필수 보안 전략 웨비나에서 국내 기업 보안 담당자 및 실무자 200여 명을 대상으로 설문조사를 진행하고 그 결과를 발표했다.

설문 결과, 응답자의 절반이 이미 생성AI를 업무에 적용하고 있는 것으로 나타났다. 데이터 분석 및 의사결정 지원(42%), 고객 서비스(30%), 콘텐츠 생성 및 자동화(28%) 분야에서 주로 활용되고 있다. 이는 기업이 내부 데이터를 AI에 접목해 효율적으로 인사이트를 도출하거나, 고객과의 커뮤니케이션을 자동화하는데 생성AI를 적극 활용하고 있음을 보여준다.

LLM 도입 시 가장 큰 우려 사항으로는 민감 데이터의 유출이 꼽혔다. 전체 응답자의 64.5%가 이를 가장 큰 우려로 지적했으며, 79%는 중간 이상 수준의 우려를 나타냈다. 이는 기밀 문서, 고객 정보, 소스 코드 등이 AI에 입력·학습되는 과정에서 발생할 수 있는 데이터 침해 위험이 현실적으로 크다는 것을 반영한다.

87%의 응답자가 LLM 보안을 위한 전문 솔루션이 필요하다고 답했다. 특히, 민감 데이터 유출 차단 기능이 가장 중요한 고려 요소로 꼽혔다. 이는 LLM 사용 과정에서 기밀 정보가 외부로 유출되지 않도록 하는 보안 수준이 무엇보다 중요하게 인식하고 있다.

LLM 관련 전문 보안 솔루션 도입 의향에는 전체 응답자 중 58%는 생성AI 사용 혹은 도입을 고려하고 있으며, 필요 시 전문 보안 솔루션까지 검토하겠다고 밝혔다. 반면 24%는 내부 정책상 생성AI 사용을 제한 중이며, 관련 솔루션 도입 계획도 없다고 응답해, 기업별로 도입 수준에 따른 보안 대응 온도 차이가 존재함을 알 수 있었다

아울러, AI보안 솔루션 도입 시 가장 중요한 고려 요소로, 51.8%가 ‘민감 데이터 유출 차단 기능’을 꼽았다.

LLM 보안 솔루션의 필요성

이번 설문조사는 생성AI가 이미 많은 기업에서 업무 효율과 혁신을 이끌고 있지만, 동시에 데이터 유출과 악의적 공격 등의 새로운 위협을 만들어내고 있다는 사실을 여실히 드러낸다. 87%가 “LLM 전문 보안 솔루션이 필요하다”고 응답했으며, 가장 중요한 고려 요소로 “민감 데이터 유출 차단 기능”을 꼽았다. 이는 단순히 AI를 ‘잘 활용’하는 것을 넘어, 기업 자산을 어떻게 안전하게 지킬 것인가에 대한 해답이 필요하다는 의미이다.

이스트시큐리티는 생성AI 시대의 기업 보안을 위해서라면 지금이 LLM 보안 전략을 구체화할 시기라고 조언한다. 기업 고객들은 LLM 보안 솔루션을 통해 보안의 사각지대를 없애고, 데이터·인력·솔루션 삼박자를 모두 점검해야 한다.

이스트시큐리티는 기업 내 LLM 사용 시 발생할 수 있는 데이터 유출과 악성 콘텐츠 수신 위협을 탐지하고 차단하고자 차세대 보안 솔루션 '알약xLLM'을 개발하고, 올해 정식 출시를 앞두고 있다.

이스트시큐리티 김병훈CTO는 “기업들은 생성AI로 인한 위험을 사전에 차단하기 위해 보안 전략을 강화하고, 최신 보안 기술을 도입하는 것이 필수적”이라고 말했다. 또한 “이스트시큐리티는 기업들이 안전하게 AI를 활용할 수 있도록 지속적으로 보안 기술을 개발 및 고도화하고, 보다 안전한 LLM사용 환경을 만들기 위해 노력할 것”이라고 밝혔다.