아마존웹서비스(Amazon Web Services, 이하 AWS)는 11월 30일 AWS 리인벤트(re:Invent)에서 모델 선택권을 확대하고 다양한 기능을 추가해 고객이 비즈니스에 맞춤화된 생성AI 애플리케이션을 보다 쉽게 구축하고 확장할 수 있도록 하는 아마존 베드록(Amazon Bedrock)의 최신 기술을 발표했다. 아마존 베드록은 LLM과 AI21 랩스(AI21 Labs), 앤트로픽(Anthorpic), 코히어(Chohere), 메타(Meta), 스태빌리티 AI(Stability AI), 아마존의 파운데이션 모델(FM)에 쉽게 액세스할 수 있는 완전 관리형 서비스로, 고객이 생성AI 애플리케이션을 구축하는 데 필요한 광범위한 기능과 함께 개인정보 보호와 보안을 지원하고 개발 과정을 간소화한다.

이번 발표는 고객에게 AI 모델과 이를 평가할 수 있는 새로운 기능을 더 많이 제공하고, 관련된 독점 데이터로 모델을 맞춤화하는 방법을 간소화하며, 복잡한 작업의 실행을 자동화하는 도구를 제공하고, 고객이 책임감 있게 애플리케이션을 구축하고 배포할 수 있는 안전장치를 제공함으로써 생성AI에 대한 접근성을 더욱 넓힌다는 것에서 의미를 찾을 수 있다.

고객은 아마존 베드록을 사용해 API를 통해 새로 출시된 앤트로픽 클로드 2.1(Anthropic Claude 2.1), 메타 라마 2 70B(Meta Llama 2 70B), 그리고 최근 출시된 코히어 커맨드 라이트(Cohere Command Light), 코히어 임베드 잉글리시(Cohere Embed English), 코히어 임베드 멀티링구얼(Cohere Embed Multilingual), 메타 라마 2 13B(Meta Llama 2 13B), 스태빌리티 AI 스테이블 디퓨전 XL 1.0(Stability AI Stable Diffusion XL 1.0)을 포함한 최신 버전 모델에 액세스할 수 있다.

아마존 타이탄 텍스트 임베딩(Amazon Titan Text Emebeddings)과 아마존 타이탄 텍스트(Amazon Titan Text) 모델(정식 출시)에 더해, AWS는 아마존 타이탄 이미지 생성기(Amazon Titan Image Generator) 와 아마존 타이탄 멀티모달 임베딩(Amazon Titan Multimodal Embeddings)을 도입해 고객이 모델을 활용해 생성AI 애플리케이션을 구축하는데 더 많은 선택권과 유연성을 제공한다. 아마존 베드록 전용 아마존 타이탄 모델은 다양한 사용 사례를 위해 AWS에서 생성, 대규모의 데이터 세트를 사전 학습하며, 책임 있는 AI 사용을 위한 지원 기능을 탑재한다. 또한 아마존은 정식 출시된 아마존 타이탄 모델 또는 그 결과물이 타사 저작권을 침해할 시 고객에 대한 보상을 보장한다.

현재 프리뷰로 제공되는 아마존 베드록의 모델 평가 기능은 고객이 자동 또는 수동 평가를 통해 특정 사용 사례에 가장 적합한 모델을 평가, 비교, 선택할 수 있도록 도와준다. 고객은 아마존 베드록 콘솔에서 질문 답변 또는 콘텐츠 요약과 같은 특정 작업에 대해 비교하려는 모델을 선택할 수 있다.

자동 평가의 경우, 사전 정의된 평가 기준(예: 정확성, 견고성, 독성)을 선택하고 자체 테스트 데이터 세트를 업로드하거나 공개적으로 사용 가능한 기본 제공 데이터 세트를 선택하게 된다. 주관적인 기준이나 정교한 판단이 필요한 콘텐츠의 경우, 고객은 몇 번의 클릭만으로 사람 기반의 평가 워크플로를 쉽게 설정할 수 있다. 이런 워크플로는 고객의 사내 인력을 활용하거나 AWS에서 제공하는 관리형 인력을 사용하여 모델 응답을 평가한다. 사람이 직접 평가하는 동안 고객은 사용 사례별 메트릭(예: 관련성, 스타일, 브랜드 보이스)을 정의한다. 고객이 설정 프로세스를 완료하면 아마존 베드록이 모델을 평가하고, 주요 기준에 따라 모델이 어떻게 수행됐는지 쉽게 이해할 수 있도록 보고서를 생성하므로 최적의 절충점을 찾아 사용 사례에 가장 적합한 모델을 신속하게 선택할 수 있다.

아마존 베드록에서 제공하는 새로운 특화 기능은 고객이 자체 데이터로 모델을 비공개로 안전하게 개인화해 차별화된 생성AI 기반 애플리케이션을 구축할 수 있도록 지원한다.

날리지베이스 포 아마존 베드록(Knowledge Bases for Amazon Bedrock)은 상황별로 적합한 기업 데이터를 활용해 모델 응답 맞춤화 기능을 제공한다.

날리지베이스 포 아마존 베드록은 챗봇이나 질문 답변 시스템과 같은 사용 사례에 보다 정확하고 상황에 맞는 응답을 제공하기 위해 모델을 RAG용 독점 데이터 소스에 안전하게 연결한다. 날리지베이스 포 아마존 베드록은 아마존 오픈서치(Amazon OpenSearch)를 비롯한 벡터 기능이 있는 데이터베이스와 파인콘(Pinecone), 레디스 엔터프라이즈 클라우드(Redis Enterprise Cloud)와 같은 널리 사용되는 데이터베이스를 지원하며, 빠른 시일 내에 아마존 오로라(Amazon Aurora)와 몽고DB(MongoDB)도 지원할 예정이다.

아마존 베드록에서 코히어 커맨드, 메타 라마 2, 아마존 타이탄 등의 모델을 미세 조정할 수 있다. 기업은 RAG 외에도 미세 조정을 활용해 특정 작업에 대해 모델을 추가로 학습시킬 수 있다. 또한, 레이블이 지정된 데이터 세트를 사용해 모델의 매개 변수를 비즈니스에 맞게 조정하고, 기업과 최종 사용자가 사용하는 어휘나 용어를 통해 지식을 확장할 수 있다. 아마존 베드록은 아마존 타이탄 텍스트 익스프레스(Amazon Titan Text Express), 아마존 타이탄 텍스트 라이트(Amazon Titan Text Lite), 아마존 타이탄 멀티모달 임베딩, 아마존 타이탄 이미지 생성기 프리뷰와 함께 코히어 커맨드와 메타 라마 2에 대한 완전 관리형 미세 조정을 지원한다.  또한, 곧 데이터 소스를 통해 클로드 2의 성능을 미세 조정할 수 있게 된다.

생성AI 애플리케이션은 완전 관리형 에이전트 포 아마존 베드록을 통해 회사 시스템과 데이터 소스를 사용해 다단계 작업을 실행할 수 있다. 에이전트는 제품 가용성에 대한 질문에 답변하거나 주문을 받는 등 대부분의 비즈니스 작업을 계획하고 수행할 수 있다. 고객은 간단한 설정 프로세스를 통해 에이전트를 생성할 수 있다. 먼저 원하는 모델을 선택하고 자연어로 몇 가지 지침을 작성하고 회사의 엔터프라이즈 시스템과 지식베이스(Knowledge Bases)에 대한 액세스 권한을 제공할 수 있다.

에이전트는 자동으로 요청을 분석하고 논리적 순서로 분류하여 모델의 추론 기능을 사용하여 필요한 정보를 결정한다. 그런 다음 호출할 API를 식별하고 요청을 처리하기 위해 언제 호출할지 결정해 조치를 취한다.

가드레일 포 아마존 베드록은 사용 사례와 책임 있는 AI 원칙에 따라 맞춤화된 생성AI 애플리케이션에 대한 보호 장치를 구현해 고객이 사용자 상호 작용의 안전성과 개인 정보 보호를 강화할 수 있도록 지원한다. 가드레일은 애플리케이션 내에서 바람직하지 않거나 유해한 콘텐츠에 대해 아마존 베드록의 모델이 대응하는 방식에 일관성을 부여한다. 고객은 가드레일을 아마존 베드록의 모든 LLM 뿐 아니라 미세 조정된 모델에도 적용할 수 있고, 에이전트 포 아마존 베드록과 함께 사용할 수 있다.

아마존 베드록 콘솔에서 가드레일을 만들기 위해서는 자연어 설명으로 시작해 애플리케이션의 컨텍스트 내에서 거부되는 주제를 정의해야 한다. 또한 고객은 혐오 발언, 모욕, 성적인 언어, 폭력 등에 대한 임계값을 설정하여 유해한 콘텐츠를 원하는 수준으로 필터링할 수 있다.

스와미 시바수브라마니안(Swami Sivasubramanian) AWS 데이터 및 AI 부문 부사장은 "생성AI는 우리 시대의 가장 혁신적인 기술이 될 것이며, 우리는 고객이 생성AI를 새로운 기회에 적용하고 비즈니스 과제를 해결하는 방식에서 영감을 얻는다"며, "고객들은 생성AI를 비즈니스에 통합하면서 선도적인 모델, 사용자 지정 기능, 에이전트 기능, 엔터프라이즈급 보안과 개인정보 보호, 완전 관리형 환경을 제공하는 아마존 베드록을 선택하고 있다. 고객들은 아마존 베드록을 통해 더 많은 도구를 손쉽게 사용할 수 있으며 생성AI의 잠재력을 최대한 활용해 사용자 경험을 재구상하고 비즈니스를 재창조하며 생성형 AI 여정을 가속화하고 있다"고 말했다.

[알림] GTT KOREA의 동영상 마케팅 플랫폼 GTT SHOW는 오는 12월 14일 목요일 오후 2시부터 오후 3시까지 “기업의 데이터 중심 성과향상과 의사결정 효율 높이는 '전사 기업성과관리' 전략”을 주제로 무료 온라인 세미나를 진행한다. 기업의 다양한 성과 지표의 측정과 분석, 경영계획, 이동계획, 차이 및 변수 별 분석 등 경영 의사결정을 돕고 경쟁력을 강화하는 기업성과관리(CPM) 솔루션 및 ERP와 함께 운용했을 때의 장점과 실제 도입 사례를 통해 전사 CPM과 경영계획 프로세스를 개선하는 전략과 활용법이 소개된다.