생성AI는 기업의 혁신 역량을 강화하는 핵심 기술로 부상하고 있지만, 실제 구현 과정에서는 높은 비용, 신뢰성 부족, 복잡한 모델 운영 등 다양한 문제에 직면하게 된다. 특히 대규모 컴퓨팅 자원 확보와 데이터 처리의 효율성, 정확한 응답을 위한 신뢰성 있는 추론 기능의 필요성이 증가하면서 이를 해결할 수 있는 통합적이고 안정적인 AI 플랫폼에 대한 수요가 커지고 있다.

비용·신뢰성·생산성 향상하는 생성AI 라인업

아마존웹서비스(AWS)가 생성AI 서비스 및 기능 포트폴리오를 지속적으로 강화하고 있다. 이를 통해 기업들이 생성AI 기술의 혁신적 잠재력을 활용하면서도 비용, 신뢰성, 생산성과 관련된 주요 문제 해결을 지원하고 있다.

AWS 생성AI 제품군의 핵심인 아마존 베드록(Amazon Bedrock)은 단일 API를 통해 고성능 기반 모델에 접근할 수 있는 완전 관리형 서비스다. 최근에는 다양한 작업에서 최첨단 인공지능 성능을 제공하는 아마존의 자체 기반 모델 아마존 노바(Amazon Nova)를 공개했다.

아마존 노바에는 텍스트(Micro, Lite, Pro), 이미지 생성(Canvas), 비디오 제작(Reel)을 위한 특화 모델이 있다. 이들은 각 분야의 최고 수준 모델들과 경쟁할 수 있는 뛰어난 성능과 속도를 제공하도록 설계되어 있고 가격 대비 높은 성능을 제공한다.

더불어, 기업들의 생성AI 구현에 대한 신뢰를 높이기 위해 AWS는 자동 추론 검사를 포함한 아마존 베드록 가드레일(Amazon Bedrock Guardrails)를 도입했다. 이 기능은 대규모 언어 모델의 일반적인 문제인 환각 현상으로 인한 사실 오류를 방지하기 위해 논리적으로 정확하고 검증 가능한 추론을 사용하여 생성AI 응답의 정확성을 설명한다.

고객들이 생성AI 애플리케이션을 실제 환경에 적용함에 따라 비용 통제는 AWS의 주요 관심사로 남아있다. 아마존 세이지메이커 하이퍼포드(Amazon SageMaker HyperPod)의 새로운 기능은 컴퓨팅 리소스 활용을 최적화하여 AI 혁신의 시장 출시 시간을 최대 40%까지 단축할 수 있다. 또한 아마존 베드록은 정확성을 유지하면서도 비용을 관리하는 데 도움이 되는 모델 디스틸레이션(Model Distillation), 인텔리전트 프롬프트 라우팅(Intelligent Prompt Routing), 프롬프트 캐싱을 제공하고 있다.

멀티모달 AI 전문 스타트업인 트웰브 랩스(Twelve Labs)는 다양한 데이터 형식 처리와 장기 모델 훈련에 필요한 대규모 컴퓨팅 파워 확보에 어려움이 있었다. AWS 솔루션을 도입한 후, 트웰브 랩스는 아마존 세이지메이커 하이퍼포드의 병렬 컴퓨팅 기능과 중단 없는 모델 훈련 환경을 활용해 멀티모달 기반 모델의 훈련 속도를 10% 향상시키고, 훈련 비용을 15% 이상 절감했다. 또한 수백 페타바이트의 비디오를 순식간에 처리할 수 있는 능력을 갖추게 되었다.

효과적인 생성AI 구현을 위해서는 데이터 준비가 여전히 중요하다. AWS는 고객들이 데이터의 가치를 극대화할 수 있도록 여러 기능을 선보였다. 여기에는 검색 증강 생성(RAG)을 위한 아마존 베드록 날라지 베이스(Amazon Bedrock Knowledge Bases), 그래프RAG(GraphRAG) 지원, 비정형 멀티모달 데이터를 생성AI 애플리케이션에 적합한 구조화된 데이터로 변환하는 아마존 베드록 데이터 오토메이션(Amazon Bedrock Data Automation)이 포함되어 있다.

생성AI가 계속 빠르게 발전함에 따라 AWS는 기업들이 책임감 있게 대규모로 혁신할 수 있도록 종합적인 도구 및 서비스 제공에 집중하고 있다.