AI 활용이 필수로 자리 잡았지만, 민감한 데이터와 지적재산권 보호 문제는 기업들의 도입을 지연시키는 주요 원인이다. 액센츄어조사에 따르면 기업의 77%가 데이터·AI 보안을 위한 필수 관행을 갖추지 못한 상태다. 특히 방화벽 내부에서 안전하게 생성AI를 운영하고 GPU 가속화된 환경을 제공하는 솔루션 부재가 온프레미스 AI 확산의 걸림돌이 됐다. 이런 상황에서 보안·거버넌스·하이브리드 이동성을 동시에 보장하는 프라이빗 AI 환경은 AI 도입 가속화를 위한 핵심 요구로 부상했다.

데이터 환경 전반에 AI 적용을 지원하는 클라우데라(Cloudera, CPO 레오 브루닉)는 온프레미스 환경에서 프라이빗 AI를 안전하게 구현하는 ‘클라우데라 데이터 서비스(Cloudera Data Services)’를 출시했다.

이를 통해 기업은 방화벽 내부에서 GPU 가속화된 생성AI 기능을 활용하고, 데이터 센터 내 독립적 데이터 클라우드를 구축·확장할 수 있다. 이 서비스는 온프레미스와 퍼블릭 클라우드 모두에서 동일한 클라우드 네이티브 환경으로 데이터 수명주기를 관리하는 업계 유일의 솔루션이다.

온프레미스 AI 데이터 서비스로 보안·민첩성·비용 절감 동시 달성

클라우데라 데이터 서비스 온프레미스 버전은 보안과 민첩성을 동시에 확보하도록 설계된 데이터 관리 플랫폼이다. 이 서비스는 클라우데라 AI 추론 서비스를 통해 NVIDIA NIM 마이크로서비스 기반 GPU 가속을 지원하며, 대규모 AI 모델의 구축과 관리를 데이터 센터 환경으로 확장한다. 이를 통해 온프레미스 데이터 저장소에서 AI 생산 주기를 안전하고 확장 가능한 엔진으로 효율적으로 제어할 수 있다.

또한 클라우데라 AI 스튜디오는 로우코드 템플릿을 제공해 팀이 손쉽게 생성AI 애플리케이션과 AI 에이전트를 구축·배포할 수 있도록 지원한다. 이를 통해 개발 효율성을 높이고 AI 활용 범위를 확장할 수 있다.

포레스터 TEI 연구 결과에 따르면, 해당 서비스를 도입한 기업은 워크로드 가치 창출 기간을 80% 단축하고, 생산성을 20% 향상시키며, 총비용을 35% 절감했다. 일부 사례에서는 하드웨어 활용률이 30%에서 70%로 향상되고, 용량 요구가 절반 수준으로 줄어드는 성과를 거뒀다.

산업 애널리스트 산지브 모한은 “과거 온프레미스 AI는 복잡하고 취약한 자체 설계 솔루션에 의존해야 했다”며 “보안을 타협하지 않으면서 AI 도입을 단순화하고 생산성을 높이는 솔루션이 요구된다”고 말했다.

레오 브루닉 CPO는 “이번 출시는 온프레미스 환경에서 진정한 클라우드 네이티브 경험을 제공하며, 데이터 첨단화로의 중요한 단계”라고 밝혔다.

BNI CIO 토토 프라세티오는 “클라우데라 AI 추론 서비스는 인도네시아 규제를 준수하면서 안전하고 효율적인 생성AI 확장을 지원해 디지털 뱅킹 혁신을 가속화하고 있다”고 전했다.

클라우데라의 온프레미스 AI 확장 전략은 기업이 생성AI를 보안 환경에서 안전하게 운영하고, 생산성과 비용 효율성을 동시에 확보할 수 있도록 한다. GPU 가속·로우코드 개발·자동화된 데이터 관리 기능은 민감한 데이터 보호와 AI 활용의 양립을 가능케 하며, 하이브리드 AI 인프라 전환의 촉매제가 될 전망이다.

[알림] GTT KOREA GTT SHOW는 오는 8월 12일 오후 2시부터 3시까지 “피해 큰 BPF Door 같은 커널 기반 악성코드 막는 EDR과 마이크로세그멘테이션 실전 보안 전략”을 주제로 웨비나를 진행합니다. BPF Door 같은 커널 기반의 악성코드가 사용하는 공격 기법과 침투 단계별 위협의 소개, EDR과 마이크로세그멘테이션이 어떻게 상호보완적으로 작동하여 침입 초기 탐지부터 내부 확산 차단까지 이어지는 보안 체계의 구축 전략과 새로운 형태의 변종 공격에 유연하게 대응하는 제로 트러스트 기반 보안 전략을 실전 사례와 함께 제시합니다.