대학·연구기관·산업 현장에서 GPU 기반 AI 연산 수요가 확대되며, 복잡한 자원 관리를 단일 플랫폼으로 통합하는 흐름이 뚜렷해지고 있다. 대규모 모델 학습을 위한 가속기 활용 효율, 관리 자동화, 하이브리드 인프라 운용 역량이 핵심 경쟁 요소로 자리 잡고 있다.

AI 인프라 플랫폼 기업 래블업(대표 신정규)이 오는 11월 16일부터 21일까지 미국 세인트루이스에서 개최되는 슈퍼컴퓨팅 컨퍼런스 ‘SC25(Supercomputing 2025)’에 3년 연속 참가한다고 14일 밝혔다. 

래블업은 이번 행사에서 자사 AI 인프라 운영 플랫폼 ‘백엔드닷AI(Backend.AI)’ 플랫폼을 중심으로 글로벌 AI 인프라 구축 사례와 최신 기술 동향을 공개한다. 

정부 주도 ‘독자 AI 파운데이션 모델’ 프로젝트에 참여하는 업스테이지 컨소시엄은 백엔드닷AI를 통해 500여장 이상의 최신 GPU 클러스터를 관리하고 있다. 미국 서던 캘리포니아 대학교(USC)에 캠퍼스 전체 GPU 자원을 통합 관리하는 시스템을 구축했으며, 팀리부뜨는 백엔드닷AI 패스트트랙(FastTrack) 3를 활용해 무역 품목분류코드 입력을 자동화하는 솔루션에 탑재된 LLM을 미세조정했다.   

백엔드닷AI를 활용한 GPU 통합 관리는 교육·연구기관으로도 확산되고 있다. KIST(한국과학기술연구원) CJLab은 연구자들이 쉽고 빠르게 시뮬레이션을 수행할 수 있는 환경을 제공하고 있으며, 국민대학교는 보유한 GPU 자원을 활용해 다수의 구성원들이 머신러닝을 동시에 실습할 수 있는 환경을 구축했다. 성균관대학교는 대학 수준의 슈퍼컴퓨팅 센터를 운영하고 있다.  

글로벌 파트너십 확장

래블업은 하이퍼액셀(HyperAccel), 웨카(WEKA), 배스트 데이터(VAST Data), 벌처(Vultr) 등 글로벌 AI 인프라 기업들과 함께 기술 세션을 개최하고 효율적인 AI 운영을 위한 인프라 최적화 방안을 모색할 예정이다.   

인텔 가우디 3 AI 가속기 위에서 구동되는 백엔드닷AI 플랫폼 데모를 체험할 수 있는 인텔의 이노베이션 패스 프로그램에도 파트너로 참가한다. 래블업은 이번 행사를 통해 인텔과 협력을 강화하고, 글로벌 HPC 커뮤니티와의 교류를 확대할 계획이다.  

래블업 신정규 대표는 “이번 SC25는 백엔드닷AI가 교육기관부터 국가 프로젝트까지 다양한 환경에서 이뤄낸 성과를 보여주는 자리”라며 “글로벌 파트너들과 함께 AI 인프라의 복잡성을 해결하고, 누구나 AI를 쉽게 활용할 수 있는 환경을 만들어가고 있다.”라고 말했다.