아파치 레인저(Apache Ranger)의 창립자이자 종합적 생성AI 거버넌스 솔루션과 AI 및 데이터 보안 거버넌스 제공 기업 프라이버세라(Privacera)의 공동 창립자이자 CEO인 발라지 가네산(Balaji Ganesan)과 CTO인 돈 보스코 두라이(Don "Bosco" Durai)가 2025년 주요 기술 트렌드 전망을 발표했다. 이와 함께 혁신, 규제 준수, 보안을 균형 있게 유지하는 선제적 거버넌스 전략을 강조하며, AI의 다음 시대에서 번영하기 위한 로드맵을 제시했다.

생성AI가 전례 없는 속도로 산업을 변화시키면서 조직들은 중대한 적응의 기로에 서게 된다. 생성AI 시스템과 하이브리드 클라우드 환경의 복잡성을 관리하는 것부터 EU AI법(EU AI Act)과 같은 새로운 규제를 준수하는 것까지, 2025년은 더욱 선제적이고 전략적인 접근이 요구된다.

두 사람의 통찰은 혁신, 규제, 보안을 균형 있게 유지하며 한 발 앞서 나가기 위한 실행 가능한 단계를 제시한다.

생성AI 보안 확보, 복잡성 대응

생성AI 시스템이 더욱 복잡해짐에 따라, 수명주기 관리와 적응형 접근 제어는 특히 다중 에이전트 프레임워크에서 위험을 최소화하는 데 중요하다. 가트너.는 “AI는 유의미한 발전을 이뤄왔으며, 새로운 생성AI 기반 모델이 이틀 반마다 출시되고 있다.”라고 언급한다.

보스코는 “생성AI를 보호한다는 것은 디지털 혁신의 기반을 수호하는 것”이라며 “이는 새로운 기술과 위협에 발맞춰 진화하는 지능적 프레임워크를 요구한다.”라고 말했다.

혁신과 규제의 균형 유지

미래 인공지능의 방향을 결정할 EU AI법과 같은 규제 프레임워크의 등장으로, 프라이버세라는 조직들이 보안, 거버넌스, 규제 준수를 기반 요소로 통합하여 지속적인 전략적 우위를 확보할 것을 촉구한다.

엑스폴딩 톱픽스(Exploding Topics)에 따르면, 65%의 기업들은 새로운 AI 및 데이터 보안 규제로 인해 상당한 운영 변화를 예견한다.

가네산은 “NIST AI 위험관리 프레임워크와 같은 규제 프레임워크와 표준은 AI 및 데이터 활용에 있어 윤리적이고 안전하며 책임 있는 길을 제시하고 있다. 이는 조직들에게 경종을 울리는 신호이며, 규제 준수는 단순히 체크박스를 채우는 행위를 넘어 차별화된 가치 제안으로 거듭나야 한다. 이러한 표준을 수용한다는 것은 법적 정렬 뿐 아니라 목적과 진정성을 갖고 앞장서는 것을 의미한다.”라고 전했다.

기초 데이터 보안 강화

2025년, 조직들은 기초 데이터 보안에 대해 긴급히 위험 기반 접근을 채택해야 하며, 데이터가 어디에 위치하고 누구에게 접근이 허용되며 어떤 취약점이 있는지에 대한 가시성을 우선시해야 한다. 최근 통계에 따르면, 미국은 2023년 한 해에만 3205건의 데이터 유출 사건을 보고했으며, 3억5천3백만 명 이상이 노출되고 사고당 평균 9백36만 달러의 비용이 발생했다(IBM: 2024 데이터 침해 비용 보고서).

가네산은 “급변하는 디지털 세계에서 우리의 최강 방어 수단은 데이터가 어디에 존재하고 어떻게 이동하는지에 대한 정밀하고 심층적인 인식이다. AI 도입의 기하급수적 가속은 기회와 위협 모두를 증폭시켜 조직들이 기존의 데이터 보호 전략을 넘어야 함을 요구한다.”라며 “데이터 보안은 단순한 규제 준수를 넘어 신뢰를 구축하고 혁신을 보호하는 지속적인 과정이다.”라고 말했다.

하이브리드 및 멀티 클라우드 현실에 적응

하이브리드 및 멀티 클라우드 환경이 표준이 됨에 따라 다양한 인프라 전반에서 데이터를 안전하게 보호하는 일이 최우선 과제로 부상한다. 오라클과 451 리서치의 보고서에 따르면 98%의 기업들이 멀티 클라우드 전략을 채택하고 있어 현대 보안 환경이 얼마나 복잡한지 알 수 있다.

가네산은 “하이브리드 및 멀티 클라우드 아키텍처는 현대 비즈니스 민첩성의 혈관과도 같다. 2025년에는 클라우드, 온프레미스, 엣지 등 데이터가 흐르는 어디서든 이를 따르는 일관되고 적응적인 보안 정책을 강화해야 한다.”라고 설명한다.

반응형에서 회복 탄력적 보안으로, 데이터 보안 고도화

데이터 보안 태세 관리(DSPM)와 데이터 접근 거버넌스(DAG)의 부상은 전체론적이며 선제적인 전략으로의 전환을 보여준다. 2024년 전 세계 평균 데이터 침해 비용은 사상 최고치인 488만 달러를 기록했으며, 이는 전년 대비 10% 증가한 수치다(IBM: 2024 데이터 침해 비용 보고서). 선제적 접근이 미래를 앞서가는 핵심이다.

보스코는 “적절한 거버넌스 없는 데이터 보안은 사상누각과 같다. 2025년에는 효과적인 접근 관리가 우리의 운영에 녹아 들어 데이터가 복잡하고 상호 연결된 시스템을 거쳐가는 동안 경계를 넘나들며 적응할 수 있는 통제가 필요하다.”라고 말했다.

AI 기반 보안, 자동화로 인간 직관 증폭

AI와 자동화는 데이터 분류부터 이상 탐지까지 보안 운영 규모를 확장하는 혁신적 역량을 제공하며, 수작업 의존도를 줄이고 정확도를 높인다. 일부 보고서에 따르면 보안 분야에서 AI를 활용하는 조직의 75%가 수작업 부담 감소로 선제적 위협 관리 역량을 강화했다고 한다.

보스코는 “AI 기반 자동화는 인간의 직관을 대체하는 것이 아니라 증폭시키는 것이다”라며 “자동화를 통해 절약된 시간은 보안 전문가들이 전략적 이니셔티브에 집중하도록 해, 선제적 보안 문화를 형성한다.”라고 밝혔다.

오픈소스 AI 채택 여부, 혁신과 보안 사이를 항해

2025년에 접어들며, ‘오픈소스’가 무엇을 의미하는지에 대한 다양한 해석과 함께 오픈소스 AI 모델 및 프레임워크의 채택이 계속 증가하고 있다. 현재 55% 이상의 AI 프로젝트가 오픈소스 프레임워크를 활용하고 있으며, 이는 혁신과 협업의 잠재력을 제공하는 동시에 고유한 보안 및 거버넌스 복잡성을 야기한다.

보스코는 “오픈소스 AI 생태계를 항해한다는 것은 투명성과 적응성에 뿌리를 둔 생태계를 조성하되 보안이 훼손되지 않도록 하는 것이다. 문제의 핵심은 집단 지능이 취약점을 드러내지 않으면서 번창할 수 있는 균형을 이루는 데 있다.”라고 강조했다.