AI 서버는 생성AI와 머신러닝, 대규모 데이터 처리 및 분석 등을 수행하는 고성능 컴퓨팅 인프라로, GPU 혹은 AI 연산용 칩인 ASIC 기반의 가속기를 활용해 대량의 연산을 처리하는 시스템을 의미한다. AI 서버는 주로 하이퍼스케일 클라우드 서비스 기업, 데이터센터 사업자, 정부의 소버린 클라우드(Sovereign Cloud) 구축 등에서 채택되며, 생성AI 서비스 수요 증가와 기업들의 AI 전환 가속화에 따라 시장 수요가 급증하고 있다. 

시장조사기관 트렌드포스(TrendForce)는 2025년 글로벌 AI 서버 출하량이 전년 대비 24.3% 증가할 것으로 내다보며, 지정학적 긴장과 미국의 대중국 수출 규제가 일부 시장 성장의 속도를 늦추고 있으나 여전히 두 자릿수 성장세를 유지할 것으로 전망했다.

지정학 리스크 속에서도 북미 CSP가 시장 주도

글로벌 클라우드 서비스 기업들이 AI 서버 시장 성장을 주도하고 있는 가운데, 특히 북미 지역의 주요 CSP가 지속적인 투자로 핵심 성장 동력 역할을 하고 있다. 트렌드포스는 북미의 하이퍼스케일 CSP뿐 아니라 중동 및 유럽의 소버린 클라우드 프로젝트와 티어-2 데이터센터 수요가 꾸준히 AI 서버 시장의 성장을 견인하고 있다.

다만, 지정학적 긴장과 미국의 대중국 수출 규제는 중국 시장에 영향을 주며, 당초 예상보다 소폭 하향 조정한 24.3% 성장률을 전망했다.

CSP별 AI 인프라 투자 전략 뚜렷

글로벌 소프트웨어 및 클라우드 기업 마이크로소프트(Microsoft)가 올해도 AI 분야 투자를 집중하면서 범용 서버 구매는 일부 억제되고 있다. 마이크로소프트는 AI 인프라 구축에 엔비디아(NVIDIA) GPU 기반 솔루션을 주로 도입하고 있으며, 자체 ASIC 개발은 상대적으로 더딘 상황이다. 회사의 차세대 AI 칩셋인 마이아(Maia)는 2026년부터 양산에 돌입할 것으로 전망된다.

글로벌 SNS 및 메타버스 기업 메타(Meta)는 신규 데이터센터 완공에 대응해 범용 서버 수요를 대폭 늘렸으며, 대부분의 서버가 AMD 플랫폼을 기반으로 구축되고 있다. 아울러 AI 서버 인프라 확장과 자체 ASIC 개발도 적극 추진 중이며, 자체 개발한 MTIA 칩의 출하량은 2026년까지 두 배로 증가할 것으로 예상된다.

글로벌 검색 및 클라우드 기업 구글(Google)은 동남아시아 지역의 소버린 클라우드 프로젝트와 신규 데이터센터 완공으로 서버 수요가 크게 증가했다. 구글은 자체 개발 칩 도입 비율이 상대적으로 높은 기업으로, AI 추론에 최적화된 TPU v6e 칩을 대규모로 배치하기 시작했으며, 이 칩은 2025년 상반기에 주류 솔루션으로 자리 잡았다.

글로벌 클라우드 서비스 기업 아마존웹서비스(AWS)는 현재 자사 개발 칩 플랫폼인 ‘트레이니엄 v2(Trainium v2)’에 주력하고 있다. AWS는 다수의 트레이니엄 v3 버전을 개발 중이며, 2026년부터 양산을 계획하고 있다. 트레이니엄 플랫폼 확대와 자체 AI 전략 가속화 덕분에 AWS의 자체 개발 ASIC 출하량은 2025년 두 배로 증가할 전망이며, 이는 미국 CSP 중 선두를 달리고 있는 상황이다.

글로벌 데이터베이스 및 클라우드 기업 오라클(Oracle)은 다른 주요 CSP 대비 AI 서버 및 인메모리 데이터베이스(IMDB) 서버 구매 비중이 높은 것으로 나타났다. 2025년 오라클은 AI 서버 인프라 구축을 더욱 강화하고 자사의 핵심 클라우드 데이터베이스 서비스를 AI 애플리케이션과 통합할 계획이다. 또한, 미국 내 소버린 클라우드 프로젝트 대응 차원에서 엔비디아의 GB Rack NVL72 솔루션에 대한 수요가 증가하고 있다.

한편, 최근 국제 관세 정책 변화로 인해 다수의 서버 OEM 업체들이 2025년 하반기 시장 전략을 재조정하고 있다. AI 서버뿐 아니라 범용 서버 수요까지 종합적으로 고려할 때, 2025년 글로벌 서버 전체 출하량(범용 서버 및 AI 서버 포함)이 전년 대비 약 5% 성장할 것으로 예상하며 이는 이전 전망치와 일치하는 수준이다.

즉, AI 서버는 여전히 두 자릿수 성장세를 보이지만, 전체 서버 시장은 범용 서버 수요 둔화로 인해 상대적으로 완만한 성장세를 이어갈 것으로 분석된다.