AI 워크로드는 강도 높은 컴퓨팅 및 처리 요구를 충족하며 AI 모델 학습과 미세 조정(fine tuning)을 간소화하는 고성능 서버와 유연한 소프트웨어의 결합이 필요하다.

글로벌 오픈소스 솔루션 기업 레드햇이 레노버와 협력해 레노버 씽크시스템(Lenovo ThinkSystem) SR675 V3 서버에 레드햇 엔터프라이즈 리눅스 AI(이하 ‘RHEL AI’)를 제공한다고 17일 발표했다.

이번 협력으로 RHEL AI는 SR675 V3 서버를 공식 지원하며, 고객이 AI에 최적화된 운영체제에 구축된 신뢰할 수 있는 파운데이션 모델 플랫폼에서 AI 및 생성AI 모델 개발, 테스트, 실행할 수 있도록 공장 출하 시 기본으로 탑재될 예정이다.

RHEL AI는 IBM리서치(IBM Research)의 오픈소스 라이선스 LLM(대규모 언어 모델)인 그래니트(Granite) 제품군과 인스트럭트랩(InstructLab)의 모델 정렬 도구(alignment tool)를 결합하는 파운데이션 모델 플랫폼으로, 커뮤니티 주도의 접근 방식을 통한 모델 개발을 지원한다.

한편, 분산 클러스터 환경에서 대규모로 모델 및 인스트럭트랩을 실행할 수 있는 레드햇의 하이브리드 클라우드 머신러닝 운영(MLOps) 플랫폼‘레드햇 오픈시프트 AI(Red Hat OpenShift AI)’의 일부로도 포함됐다.

하이브리드 클라우드 환경 전반에서의 이식성(mobility)을 위해 최적화되고 부팅 가능한(bootable) RHEL 이미지로 패키징됐으며, 배포, 통합, 관리에 대한 전문 지식 등을 제공하는 전문가 팀을 운영해 레노버 컨설팅 서비스(Lenovo Consulting Service)를 지원하고 있다.