아시아 태평양 지역에서 생성AI 활용이 급증하며 저지연·고속 추론 인프라의 필요성이 빠르게 커지고 있다. 생산AI, 에이전트 자동화, 데이터 주권 및 지역별 규제 준수 요구가 동시에 강화되면서 기업들은 기존 GPU 기반 추론 인프라만으로는 성능과 비용을 모두 만족시키기 어려운 상황이다.

IDC ‘전 세계 AI 및 생성형 AI 지출 가이드’에 따르면 아태 지역의 AI 및 생성AI 투자는 2028년까지 1,100억 달러에 이를 것으로 예상되며, 2023~2028년 연평균 성장률은 24.0%로 전망되고 있다. 이에 기업들은 더 높은 처리량과 낮은 지연 시간을 동시에 확보할 수 있는 새로운 추론 아키텍처를 요구하고 있다.

아태 지역 초저지연 AI 추론 인프라 제공

AI 추론 기업 그록은 에퀴닉스의 시드니 IBX 데이터센터에 4.5MW 규모의 인프라를 구축하며 글로벌 협력을 아시아 태평양 지역으로 확장했다. 이는 미국·유럽·중동·아프리카에 이어 진행되는 확장이며, 한국을 포함한 아태 기업은 그록클라우드(GroqCloud)를 더 가까운 지역에서 저지연으로 이용할 수 있게 됐다.

해당 인프라는 기존 GPU 및 하이퍼스케일 클라우드 대비 최대 5배 더 빠르며 비용 효율적인 성능을 제공한다. LPU 기반 아키텍처는 AI 추론과 언어 처리 전용으로 설계돼 즉각적 속도와 높은 처리량, 에너지 효율을 제공하며, 맞춤형 컴파일러 최적화로 차세대 오픈소스 LLM 추론 성능을 극대화한다.

에퀴익스 패브릭(Equinix Fabric) 기반의 소프트웨어 정의 상호연결은 아태 기업이 데이터 주권과 프라이버시를 확보한 채 안전하게 그록 클라우드에 접근하도록 지원해 규제 준수를 충족한다. 또한 에퀴닉스의 글로벌 37개국·270개 시설 연결 생태계는 기업·클라우드·파트너 간 고속 연결을 제공해, 자체 인프라 없이도 대규모 AI 워크로드의 글로벌 확장을 가능하게 한다.

클리프 오브레히트 캔바 COO는 “기술이 인간 창의성을 폭발적으로 가속화하는 시대이며, 강화된 호주 AI 인프라가 2억 6천만 명 이상의 사용자 아이디어 실현을 더욱 확장할 것”이라고 말했다. 조나단 로스 그록 CEO는 “모든 기업이 충분한 AI 컴퓨팅 자원을 보유한 것은 아니며, Equinix와 함께 접근성을 확대하고 있다”고 밝혔다.

스콧 알빈 그록 아태 총괄은 “그록클라우드 사용자의 절반 이상이 아태 지역에 있어 이번 시드니 구축은 핵심 확장의 첫 단계이며, 데이터 주권과 저지연 사용성을 보장한다”고 말했다.

사이러스 아다그라 에퀴닉스 아태 사장은 “에퀴닉스의 글로벌 데이터센터 네트워크는 대규모 엔터프라이즈 AI 워크플로우의 연결 허브 역할을 수행하고 있으며, 그록 인프라 확장을 적극 지원하고 있다”고 설명했다.