글로벌 오픈소스 솔루션 기업 레드햇(CEO 폴 코미어)이 델 테크놀로지스(Dell Technologies, 한국 대표 김경진)와 협력해 생성AI 모델 및 AI 파운데이션 모델 플랫폼 ‘레드햇 엔터프라이즈 리눅스 AI(Red Hat Enterprise Linux AI, 이하 RHEL AI)’를 델 파워에지(Dell PowerEdge) 서버에서 지원한다고 5일 밝혔다.

RHEL AI는 IBM 리서치(IBM Research)의 오픈 소스 라이선스인 ‘그래니트 대규모 언어 모델(Granite LLM)’ 및 LAB(Large-scale Alignment for chatBots) 방법론에 기반한 생성AI 애플리케이션 구현 플랫폼이다. 특히 인스트럭트랩(InstructLab) 모델 정렬 도구를 비롯해 ‘인스트럭트랩 프로젝트’를 통한 커뮤니티 중심의 모델 개발 접근 방식을 통합했다.

이 플랫폼은 하이브리드 클라우드 환경 내 개별 서버에 구축이 가능하도록 부팅할 수 있는 ‘레드햇 엔터프라이즈 리눅스’ 이미지로 제공된다. 또한 레드햇의 하이브리드 클라우드 ML 운영(MLOps) 플랫폼인 레드햇 오픈시프트 AI(Red Hat OpenShift AI)의 일부로, 분산 클러스터 환경에서 대규모로 모델 및 인스트럭트랩을 실행하도록 지원한다.

RHEL AI는 ‘델 파워에지 R760xa(Dell PowerEdge R760xa)’의 프리퍼드(preferred) 플랫폼에서 지원되며, 2024년 3분기 중 제공될 예정이다. 또한 양 사는 앞으로 RHEL AI와 엔비디아(NVIDIA) 가속 컴퓨팅이 포함된 하드웨어 솔루션의 지속적인 테스팅과 검증을 통한 AI 경험 간소화에 협력할 계획이다.

레드햇 조 페르난데스(Joe Fernandes) 생성AI 기반 모델 플랫폼 부사장은 “델 테크놀로지스와 협력해 파워에지 서버에서 RHEL AI를 검증하고 경쟁력을 강화해, 고객은 하이브리드 클라우드 환경 전반에서 향상된 생성AI 워크로드의 성능으로 비즈니스의 추진력을 얻게 될 것”이라고 전했다.

관련기사

저작권자 © 지티티코리아 무단전재 및 재배포 금지