AI 기술의 급속한 발전으로 세계의 산업이 큰 변화를 겪는 가운데 한국의 AI 기술에 대한 잠재성에 세계가 주목하고 있다. 2023년 ‘글로벌 AI 지수’에 따르면 우리나라의 AI 산업 수준은 62개국 중 종합순위 6위를 기록했다. 이는 우리나라가 AI 반도체 시스템 서비스 등 AI 기술 전반에 있어서 세계적으로 엄청난 잠재력을 가지고 있는 것으로 인식되고 있기 때문이다. 이러한 추세에 따라 생성AI를 비롯한 AI 기반의 서비스와 인프라 구축에는 고성능 컴퓨팅과 효율적인 운영관리의 필요성이 증가하고 있다.

그간 국내 AI 기업들은 AI 모델을 개발하고 학습시키는데 있어 필수적인, 고성능 GPU 확보에 큰 어려움을 겪고 있었다. AI 전문 기업들은 대규모의 GPU를 확보하기 위해 수십 주를 기다리거나 타국에 위치한 자원을 활용할 수밖에 없었다. 다행히 GPU 전용 데이터센터가 개소되어 그 고민을 모두 해결할 수 있게 됐다.

글로벌 퍼블릭 클라우드, 에지 컴퓨팅 및 에지AI 전문기업 지코어(Gcore)는 4일 서울 시청 앞 더 플라자호텔에서 '한국 AI시장에 가속도 붙여줄 새로운 시작' 이라는 주제 하에 기자간담회를 갖고, 인천 지역에 국내 최초의 GPU 데이터센터 개소 소식을 알렸다.

엔비디아 H100 GPU 320개 장착한 40대 서버에서 AI 퍼블릭 클라우드 서비스 제공

오는 4월 15일 개소를 앞두고 있는 지코어 데이터센터에서는 엔비디아의 H100 GPU 320개가 탑재된 40대의 서버가 AI 추론 학습을 위한 AI 퍼블릭 클라우드 서비스를 제공한다.

이번에 선보이는 지코어의 H100 기반 AI 퍼블릭 클라우드 서비스는, ▲SMX5 타입의 H100 GPU를 각 8개씩 탑재한 서버들을 대규모 클러스터로 구성해 강력한 컴퓨팅 능력 제공 ▲AI학습 성능에 가장 큰 영향을 미치는 GPU간 연결을 모두 인피니밴드 NDR(400Gbps)로 구성함으로써 각 서버 당 3.2Tbps의 대역폭 ▲UFM(Unified Fabric Manager)으로 관리되는 non-blocking 클러스터는 핫 스페어와 콜드 스페어가 각각 구성 되어 서비스 품질도 GDPR의 기준을 충족 ▲각 서버당 2TB에 달하는 메모리와 112개에 달하는 CPU코어로 대용량 데이터 처리 및 고성능 컴퓨팅 작업 환경을 제공하며, 서버당 12KW에 달하는 전력량 충족, 빠른 네트워크, 안전한 센터 설계 등으로 최상의 서비스 구현이 가능하다.

이 GPU 데이터센터는 지코어와 한국 클라우드 기업인 NHN클라우드가 공동으로 운영한다. 데이터센터 선정에서부터 한국고객들의 수요를 반영한 서비스 구성에 이르기까지 지코어와 NHN클라우드는 긴밀히 협업했다. 특히 NHN클라우드는 한국 AI산업의 역량이 급부상함에 따라 국내 고객들이 원하는 특수한 요구사항을 잘 파악하고 있는 만큼 지코어 서비스를 현지화하고 고객 맞춤형으로 구성하는데 있어서 큰 역할을 했다. NHN클라우드는 지코어의 데이터센터 운영에도 지속적으로 참여할 예정이다.

지코어는 지속적으로 증가하는 AI 활용에 대비해 GPU 데이터센터에 연말까지 H100 GPU를 1000개 정도 더 확보할 방침이다. GPU 데이터센터에 지속적인 GPU 확장을 통해 다양한 산업 분야의 고객들이 고성능 생성AI 컴퓨팅을 보다 간편하고 효율적으로 사용할 수 있는 서비스를 제공할 계획이다. 이를 통해 한국 AI 시장의 확대와 글로벌 진출에 있어서 교두보 역할도 기대하고 있다.

NHN클라우드와 데이터 센터 공동 운영, 연내 H100 GPU 1000개 확보 예정

이날 기자간담회에 함께 자리한 NHN클라우드 김동훈 대표는 “국내는 물론 글로벌 AI 인프라 시장의 패러다임이 급격히 변화하고 있는 만큼, NHN클라우드는 광주 국가 AI 데이터센터를 포함해 판교 데이터센터(NCC1) 등 자사 데이터센터에 1천 개 이상의 엔비디아 H100으로 구축하는 등 국내 최대 규모 GPU 클러스터를 구축해 나가고 있다”고 전했다.

이어, “지코어는 전세계 160개 이상의 PoP 기반 강력하고 안전한 클라우드 및 에지 AI에 대한 노하우를 보유하고 있다. 엔비디아의 최신 GPU인 H100을 발빠르게 한국에 도입해 국내 AI 시장의 도약에 빠르게 대처한 일등공신이다.”라며, “NHN클라우드는 지코어와의 파트너십을 통해 국내 AI 인프라 시장의 경쟁력을 강화하고, 글로벌 진출 및 시장 변화에 적극적으로 대응해 나갈 것”이라고 말했다.

지코어 정현용 한국지사장은 “초고속 통신망 내에 위치한 지코어의 데이터센터는 한국은 물론, 전세계와 초저지연 네트워크로 상호 연결돼 있는 지코어의 글로벌 에지 네트워크를 접목해 한국기업들이 글로벌 AI시장에서 선도적인 위치를 선점해 나갈 수 있기를 기대한다.”고 말했다. 또한 “국내 AI시장 및 고객에 대한 전문적 이해와 경험을 보유한 NHN클라우드와의 지속적이고 긴밀한 협업을 통해 공공기관은 물론 연구소, 금융 및 제조업계 등을 비롯해 다양한 영역에서 급속히 증가하고 있는 국내 AI 수요에 빠르고 신속하게 대응해 나갈 것”이라고 강조했다.

한국에서의 사업 계획에 대해 “단기적으로는 연말까지 H100 GPU 1000개 이상 확보와 지코어가 글로벌하게 보유하고 있는 160개 이상의 글로벌 에지 네트워크를 통해서 CDN과 스트리밍 그리고 디도스 보안 부분에 대해서도 국내에서 많은 고객사를 확보해 나갈 것이다. 중장기적는 전 세계에 분포돼 있는 글로벌 네트워크를 통해 추론에 특화되어 있는 AI 서비스를 글로벌로 확대할 것이다.”고 밝혔다.