생성AI 솔루션 제공업체인 세그마인드(Segmind)가 개발자와 스타트업이 전용 GPU 클러스터에서 AI 기반 애플리케이션을 실행할 수 있도록 하는 새로운 기능인 ‘전용 API 엔드포인트(Dedicated API Endpoints)’를 출시했다.

이 기능은 고급 AI 워크플로우를 지원하도록 설계되어 더 큰 통제력과 유연성, 비용 효율성을 제공한다. 세그마인드의 기존 ‘서버리스 API’가 공유 GPU 클러스터를 사용하는 반면, 전용 API 엔드포인트는 각 사용자의 프로젝트를 위한 완전한 프라이빗 환경을 구축해 AI 통합을 더욱 강력하고 안정적으로 만든다.

이 새로운 기능을 통해 세그마인드 사용자들은 특정 GPU 유형을 선택하고, 24/7 베이스라인 GPU를 구성하며, 수요가 급증할 때만 활성화되는 자동 확장 GPU를 활성화할 수 있다. 이는 비용을 낮추면서도 애플리케이션을 원활하게 확장될 수 있도록 지원한다.

세그마인드는 AI 모델 인프라를 제어해야 하는 사용자를 위해 전용 API 엔드포인트를 설계했다. 전용 클러스터는 안정적이고 중단 없는 성능을 보장하여 공유 리소스로 인한 애플리케이션 속도 저하를 방지한다. 자동 확장 기능은 필요할 때만 추가 성능을 제공하여 트래픽이 변동하는 애플리케이션에 특히 유용하다. 또한 개발자는 베이스라인 및 자동 확장 GPU 구성을 관리함으로써 성능을 저하시키지 않으면서도 비용을 더 잘 통제할 수 있다.

전용 API 엔드포인트는 개발자와 스타트업이 여러 산업 분야에서 영향력 있고 확장 가능한 애플리케이션을 구축할 수 있는 지원한다.

실시간 소셜 미디어 콘텐츠 생성은 사용자 선호도에 따라 즉시 맞춤형 이미지나 비디오를 생성할 수 있다. 게임의 경우, 맞춤형 환경이나 캐릭터를 생성하는 생성AI 애플리케이션이 플레이어 활동이 가장 많을 때에도 안정적인 성능에 의존할 수 있다. 전자상거래 애플리케이션도 전용 GPU를 통해 가상 피팅과 맞춤형 시각화와 같은 실시간 개인화를 고객에게 제공할 수 있다.

마케팅 에이전시와 창작 전문가들은 전용 엔드포인트를 사용하여 고객을 위한 맞춤형 시각 자료를 주문형으로 생성하고, 브랜드 콘텐츠와 대화형 그래픽, 짧은 비디오도 신속하고 저렴하게 제작할 수 있다. 전용 GPU 인프라는 또한 가상 이벤트, 제품 시연 또는 몰입형 디지털 쇼룸을 위한 실시간 VR 및 AR 콘텐츠를 지원하는 데 필요한 컴퓨팅 성능을 제공한다.

AI를 실험하는 연구원과 개발자는 전용 API 엔드포인트를 통해 테스트 요구 사항에 맞게 구성을 조정하고 새로운 애플리케이션을 프로토타입화하고 개선하면서 비용을 통제할 수 있다.

[알림] ‘GTT KOREA’와 ‘전자신문인터넷’이 공동으로 주최하는 “NSWS(Next Smart Work Summit) 2024”에서는 글로벌 스마트워크 솔루션 선도 기업들이 참여하여 최신 기술과 시장 동향, 그리고 기업이 당면한 문제의 해결 방안을 심도 있게 다룰 예정이다. 이번 서밋에서는 AI와 스마트워크를 활용한 혁신적인 업무 환경 구축 및 활용 전략 공유와 함께 전시 부스를 통해 기업에 필요한 다양한 스마트워크 활용법을 구체적으로 체험해 볼 수 있는 장도 마련된다.