생성AI는 다양한 위치에 구축이 가능한데, 많은 기업들이 데이터 프라이버시, 지적재산권, 보안 등의 이유로 온프레미스 형태를 선호하고 있는 상황이다.

델 테크놀로지스가 페이스북 모기업 메타(Meta)와 대규모 언어모델 라마 2(Llama 2)를 델의 IT 인프라스트럭처, 클라이언트 디바이스, 프로페셔널 서비스로 구성된 생성AI (GenAI) 포트폴리오를 통해 온프레미스로의 구축에에 협력한다고 밝혔다.

이번 협력은 인프라 솔루션 포트폴리오와 라마 2 AI 모델 제품군을 결합해 온프레미스 AI 환경을 간소화하는데 있다. 고객들은 온프레미스 데이터 센터 및 에지 환경에서 생성AI를 보다 빠르게 적용할 수 있게 된다. 델은 메타의 라마 2 모델을 시스템 사이징 툴에 통합해 고객이 라마 2 기반 AI 역량 강화에 활용할 수 있도록 지원한다.

‘메타 라마 2 생성AI를 위한 델의 검증 설계(Dell Validated Design for Generative AI with Meta’s Llama 2)’는 사전 테스트를 거쳐 검증된 델의 인프라스트럭처, 소프트웨어 및 서비스를 통해 온프레미스 프로젝트의 구축 및 관리를 간소화한다. 문서화된 구축 및 구성 지침으로 조직은 생성AI 인프라를 빠르게 구축하고, 높은 예측 가능성을 바탕으로 라마 2를 운영할 수 있다.

메타 라마 2와 폭넓은 범위의 델 생성AI 솔루션 기술 및 서비스가 결합해 조직의 규모와 관계없이 안정적인 툴을 사용해 데스크톱에서부터 코어 데이터센터, 에지, 퍼블릭 클라우드 등 다양한 위치에서 생성AI 솔루션을 사용할 수 있다.

김경진 한국 델 테크놀로지스 총괄사장은 “메타 라마 2 모델과 델의 생성AI 포트폴리오를 결합해 기업은 디지털 트랜스포메이션을 가속하고, 고객이나 내부 임직원과 폭넓게 소통해 데이터 인사이트를 효과적으로 비즈니스에 적용할 수 있을 것으로 기대한다.”고 말했다.