글로벌 오픈소스 솔루션 기업인 레드햇(Red Hat)과 일본 최대 통신 기업인 NTT가 차세대 통신 표준 협의체 아이온(Innovative Optical and Wireless Network, IOWN) 이니셔티브의 일환으로 엔비디아 및 후지쯔와 협력해 에지에서 실시간 생성AI 데이터 분석을 향상하고 확장할 수 있는 솔루션을 공동 개발했다.

이 솔루션은 아이온 글로벌 포럼에서 개발한 기술을 사용해 쿠버네티스 기반 하이브리드 클라우드 애플리케이션 플랫폼인 레드햇 오픈시프트(Red Hat OpenShift) 상에 구축됐으며, 실제 실행 가능성 및 사용 사례에 대해 ‘아이온 글로벌 포럼의 개념 증명(IOWN Global Forum's Proof of Concept)’을 획득했다.

레드햇과 NTT의 이번 솔루션은 아이온 APN(All-Photonics Network)과 아이온 DCI(Data-Centric Infrastructure) 내의 데이터 파이프라인 가속 기술로 구성돼 있다. NTT의 AI용 가속 데이터 파이프라인은 APN을 통한 RDMA(Remote Direct Memory Access) 방식을 채택해 에지에서 대량의 센서 데이터를 효율적으로 수집하고 처리한다.

레드햇 오픈시프트의 컨테이너 오케스트레이션 기술은 지리적으로 분산돼 있는 원격 데이터센터들에 걸쳐 있는 가속 데이터 파이프라인 내에서 워크로드를 더 유연하게 운영할 수 있도록 지원한다.

양사는 개념 증명을 통해 일본 요코스카시를 센서 설치 거점으로, 무사시노시를 원격 데이터센터로 하여 두 곳 모두 APN으로 연결된 상태에서 실시간 AI 분석 플랫폼을 평가했다. 그 결과, 많은 수의 카메라를 포함한 경우에도 AI 분석을 위한 센서 데이터를 집계하는 데 필요한 지연 시간이 종래의 AI 추론 워크로드 대비 60% 줄었다. 또한, 에지의 각 카메라별 AI 분석에 필요한 전력 소비량이 기존 기술보다 40% 절감될 수 있음이 입증됐다. 이 실시간 AI 분석 플랫폼을 사용하면 CPU의 병목 현상 없이 더 많은 수의 카메라를 수용할 수 있도록 GPU를 확장할 수 있다. 시범 계산에 따르면 1000대의 카메라를 수용할 수 있는 규모에서 전력 소비량을 60%까지 줄일 수 있을 것으로 예상된다.

이 솔루션은 지능형 AI 지원 기술의 기반을 마련하고 이를 통해 비즈니스의 지속 가능한 확장을 돕는다. 또한 대량의 데이터 수집과 관련된 오버헤드를 감소하고 대도시 지역과 원격 데이터센터 간에 공유할 수 있는 데이터 수집 향상과 이를 통한 더 빠른 AI 분석이 가능하다. 태양열과 풍력 등 각 원격지의 가용 잠재적 재생 에너지를 활용할 수 있으며 센서 디바이스 역할을 하는 비디오 카메라로 지역 관리 보안도 강화할 수 있다.

[알림] GTT KOREA와 월터스클루어는 오는 3월 5일(화) 오후 2시부터 3시까지 “기업의 수익성을 증대하는 ‘전사 기업성과관리(CPM)’ 플랫폼 활용 전략”을 주제로 무료 온라인 세미나를 개최한다. 급변하는 글로벌 비즈니스 환경에서 기업 고객들에게 AI 활용 고급 분석 기능이 적용돼 재무계획을 넘어 판매, 공급망, HR 등 운영 조직까지 확대해 최적의 전사적 경영계획 및 예측 정보를 제공하는 ‘확장경영계획 및 분석’도 가능한 기업성과관리 플랫폼 ‘CCH 타게틱’을 통한 기업의 수익 극대화 방안을 단계별, 사례별로 알아본다.