생성AI와 멀티모달 기술이 빠르게 확산되며, 고성능 GPU 인프라를 안정적으로 확보하는 것이 AI 기업의 핵심 과제다. 특히 훈련과 추론, 대규모 모델 배포에 최적화된 인프라를 통해 속도, 확장성, 비용 효율성을 모두 만족시키는 해법이 주목받고 있다.

오라클(Oracle)이 글로벌 AI 혁신 기업들이 AI 모델 훈련·추론과 애플리케이션 배포를 위해 ‘오라클 클라우드 인프라스트럭처 AI 인프라스트럭처(OCI AI Infrastructure)’와’ OCI 슈퍼클러스터(OCI Supercluster)’를 활용하고 있다고 17일 밝혔다. 

파이어웍스AI(Fireworks AI), 헤드라(Hedra), 누멘타(Numenta), 소니옥스(Soniox)를 비롯한 수백 개의 AI 기업들은 ▲AI 워크로드 실행 위치 제어 ▲컴퓨트 인스턴스 선택권 ▲확장성 ▲고성능 ▲비용 효율성 등으로 OCI를 선택하고 있다.

AI 도입이 빠르게 확산되면서신속하고 경제적인 GPU 인스턴스 확장을 지원하는 안전하고 검증된 고가용성 클라우드 및 AI 인프라의 수요가 높아지고 있다. AI 기업들은 OCI AI 인프라스트럭처를 통해 AI 훈련 및 추론, 디지털 트윈, 대규모 병렬 HPC 애플리케이션 등에 필요한 고성능 GPU 클러스터와 확장성 높은 컴퓨팅 파워에 접근할 수 있다.

오라클을 선택한 글로벌 AI 혁신 기업

파이어웍스 AI는 텍스트와 이미지, 오디오, 임베딩, 멀티모달 형식의 100개 이상의 오픈 모델을 서비스하는 고성능 생성AI 애플리케이션 플랫폼으로, 개발자와 기업이 최적화된 생성AI 애플리케이션을 구축할 수 있도록 지원한다. 엔비디아 호퍼(NVIDIA Hopper) GPU로 가속화된 OCI 컴퓨트(OCI Compute) 베어메탈 인스턴스와 AMD MI300X GPU를 탑재한 OCI 컴퓨트를 활용해 플랫폼에서 매일 2조 건 이상의 추론 토큰을 처리하고 글로벌 서비스 확장을 지원한다.

AI 기반 영상 생성전문 기업 헤드라는 생생한 캐릭터 영상 제작을 지원한다. 엔비디아 호퍼 GPU로 가속화된 OCI 컴퓨트 베어메탈 인스턴스에서 생성형 이미지, 영상, 오디오를 위한 멀티모달 기반 모델을 배포해 GPU 비용 절감, 훈련 속도 향상, 모델 반복 시간 단축에 성공했다. 특히 OCI를 활용해 최신 모델인 캐릭터-3과 콘텐츠 제작 플랫폼인 ‘헤드라 스튜디오’를 신속하게 출시할 수 있었다.

딥러닝 시스템의 성능과 효율성을 극대화하는 AI 전문  기업 누멘타는 엔비디아 GPU로 가속화된 OCI 컴퓨트 베어메탈 인스턴스를 활용해 고성능의 검증된 훈련 인스턴스에 접근할 수 있게 됐으며, 훈련 속도 및 학습 사이클이 빨라졌다.

오디오 및 음성 AI 기업 소니옥스는 오디오, 음성, 언어 이해를 위한 기초 AI 모델을 개발하기 위해 OCI 상에서 다국어 음성 인식 AI 모델을 구동하며, 엔비디아 호퍼 GPU 기반 OCI 컴퓨트 베어메탈 인스턴스를 활용해 60개 언어의 음성을 실시간으로 정확하게 인식하고 이해할 수 있도록 학습했다.

오라클 크리스 간돌포(Chris Gandolfo) OCI 및 AI 부문 수석 부사장은 “OCI AI 인프라스트럭처는 초고속 네트워크, 최적화된 스토리지, 최첨단 GPU를 제공하여 AI 기업의 차세대 혁신을 돕는다.”라고 말했다.

[알림] GTT KOREA GTT SHOW는 오는 8월 12일 오후 2시부터 3시까지 “피해 큰 BFPdoor 같은 커널 기반 악성코드 막는 EDR과 마이크로세그멘테이션 실전 보안 전략”을 주제로 웨비나를 진행합니다. BPFdoor 같은 커널 기반의 악성코드가 사용하는 공격 기법과 침투 단계별 위협의 소개, EDR과 마이크로세그멘테이션이 어떻게 상호보완적으로 작동하여 침입 초기 탐지부터 내부 확산 차단까지 이어지는 보안 체계의 구축 전략과 새로운 형태의 변종 공격에 유연하게 대응하는 제로 트러스트 기반 보안 전략을 실전 사례와 함께 제시합니다.