아마존웹서비스(Amazon Web Services, 이하 AWS)가 IT 워크로드를 온프레미스 인프라에서 AWS 클라우드 데이터센터로 이전하면 인공지능(AI) 활용에 따른 환경적 영향을 효과적으로 최소화할 수 있다는 새로운 연구 결과를 오늘 발표했다.

AWS의 의뢰로 글로벌 IT 컨설팅 기업 액센츄어(Accenture)에서 진행한 연구에 따르면, AWS의 글로벌 인프라에서 워크로드를 실행했을 때 온프레미스 대비 에너지 효율이 최대 4.1배 더 높은 것으로 나타났다. 특히 한국 기업들이 AWS상에서 AI 워크로드를 최적화할 경우 온프레미스 대비 탄소 배출을 최대 95%까지 줄일 수 있다.

연구에 따르면 국내에서 컴퓨팅 부하가 높은 AI 워크로드를 AWS 데이터센터에서 실행할 경우, 에너지 효율이 더 높은 하드웨어 사용(22%)과 향상된 전력 및 냉각 시스템(50%)을 통해 온프레미스 대비 탄소 배출량을 72%까지 줄일 수 있다. 추가로 AWS에서 최적화하고 AI 전용 실리콘을 사용할 경우 AWS로 이전하고 최적화한 국내 기업은 AI 워크로드의 총 탄소 배출량을 최대 95%까지 감축할 수 있다.

지속 가능한 칩 기술, AI 전용 실리콘

AWS가 에너지 효율을 혁신하는 대표적인 방법 중 하나가 2018년 출시한 자체 개발 맞춤형 범용 프로세서인 AWS 그래비톤(Graviton)이다. 최신 그래비톤4의 성능은 기존 그래비톤보다 4배 향상되었으며, 동급의 아마존 EC2 인스턴스(데이터센터에서 컴퓨팅이 이루어지는 가상 환경) 대비 동일한 성능을 구현하는 데 60% 더 적은 에너지를 사용하는 그래비톤3보다도 더 에너지 효율적이다.

AWS의 고객들도 그래비톤의 탄소 절감 효과를 누리고 있다. SK텔레콤은 탱고(TANGO, T Advanced Next Generation OSS)라는 차세대 AI 네트워크 관리 시스템을 구축하면서, 증가하는 데이터 규모와 분석 성능 이슈를 온프레미스 환경에서 해결하기 어려운 상황에 직면했다. AWS는 SK텔레콤의 탱고 솔루션 구축에 대규모 데이터 처리와 인공지능 및 머신러닝 워크로드에 최적화된 AWS 그래비톤(Graviton) 인스턴스를 제공해, 온프레미스 대비 AWS 워크로드의 탄소배출량을 약 27% 감축하는 데 기여했다.

지속 가능한 방식으로 생성AI 애플리케이션을 실행하려면 에너지 효율적인 하드웨어를 통한 실리콘 수준의 혁신이 필요하다. AWS는 성능과 에너지 소비를 최적화하기 위해 AWS 트레이니움(AWS Trainium), AWS 인퍼런시아(AWS Inferentia)와 같은 AI 전용 실리콘을 개발하여 동급의 가속 컴퓨팅 인스턴스보다 훨씬 높은 처리량을 달성했다.

AWS 트레이니움은 생성AI 모델의 학습 시간을 몇 달에서 몇 시간으로 단축한다. 트레이니움2는 1세대 트레이니움에 비해 최대 4배 빠른 훈련 성능과 3배 더 많은 메모리 용량을 제공하는 동시에 에너지 효율(와트당 성능)을 최대 2배까지 개선하도록 설계되었다. 한편, AWS 인퍼런시아는 AWS 칩 중 가장 전력 효율이 높은 머신러닝 추론 칩이다. AWS 인퍼런시아2는 와트당 최대 50% 더 높은 성능을 제공하며, 동급 인스턴스 대비 최대 40%까지 비용을 절감할 수 있다. 이러한 AI 전용 가속기를 통해 AWS는 인프라 설치를 줄이고 전력 소비당 성능을 향상시켜 대규모로 AI 모델을 효율적으로 실행할 수 있다.

AWS 인프라 전반의 에너지 효율성 개선

배전에서 냉각에 이르는 기술 혁신으로 AWS 인프라는 에너지 효율을 높였다. AWS는 데이터센터 설계에서 대형 중앙 무정전전원공급장치(UPS)를 제거하는 대신 모든 랙에 통합되는 소형 배터리팩과 맞춤형 전원공급장치를 사용하여 전력 효율성을 개선하고 가용성을 높였다. 교류(AC)에서 직류(DC)로, 또는 그 반대로 전압을 변환할 때 발생하는 전력 손실을 줄이기 위해 중앙 UPS를 제거하고 랙 전원 공급 장치를 최적화하여 에너지 변환 손실을 약 35% 감소시켰다.

데이터센터의 냉각 시스템 효율성을 높이기 위해 AWS는 장소와 시간에 따른 프리 쿨링(free air cooling) 등 다양한 냉각 기술을 활용하고 실시간 데이터를 통해 기상 조건에 적응한다. AWS의 최신 데이터센터 설계는 최적화된 공랭 솔루션과 엔비디아(NVIDIA)의 그레이스 블랙웰 슈퍼칩과 같은 강력한 AI 칩셋을 위한 액체 냉각 기능을 통합한다. 유연한 다중 모드 냉각을 통해 기존 워크로드 혹은 AI 모델 등 실행하는 워크로드에 상관없이 성능과 효율성을 극대화할 수 있다.

AWS인프라는 스타트업, 기업, 헬스케어, 연구, 교육 기관에 이르기까지 수만 곳의 한국 기업에게 신기술에 대한 접근성을 향상해 국내 비즈니스 생태계의 혁신과 성장을 지원하고 있다.

1955년 설립한 종합에너지그룹 삼천리는 AWS를 활용해 대고객서비스 및 소비자 현장 지원 애플리케이션을 안정적으로 운영하고, 고객탄소발자국 툴(Customer Carbon Footprint Tool)을 통해 IT 운영에 따른 탄소 배출량을 상시 모니터링할 계획이다. AWS는 삼천리가 이번 클라우드 도입으로 향후 5년간 탄소배출량을 약 29.6% 감축할 것으로 기대하고 있다.

무탄소 에너지는 국내 AI 워크로드의 탈탄소화에 크게 기여할 수 있다. 아시아태평양 전역에서 AWS가 무탄소 에너지를 추가로 조달할 경우 AI 워크로드의 전체 탄소 감축에 20% 기여할 수 있다.

그러나 연구에 따르면 한국은 발전사 간 경쟁으로 인해 제한된 선택지, 무탄소 에너지 확대의 더딘 속도와 높은 비용 등이 기업의 무탄소 에너지 도입을 저해하는 것으로 나타났다. 2040년까지 기업 운영 전반에 걸쳐 탄소 중립을 달성하겠다는 아마존의 약속에 따라 AWS는 전 세계 인프라의 전력 사용량을 100% 무탄소 에너지로 빠르게 전환하고 있다.

국내에서는 지난 12월 SK E&S와 함께 국내 첫 재생에너지 프로젝트인 60메가와트(MW) 규모의 태양광 프로젝트를 발표했으며, 이는 향후 매년 한국 가정 2만5000가구에 전력을 공급할 수 있는 양의 청정에너지를 생산할 것으로 예상된다.

아마존은 전 세계 500개 이상의 태양광 및 풍력 프로젝트에 수십억 달러를 투자하여 당초 계획보다 7년을 앞당겨 지난해 100% 재생에너지 목표를 달성했다. 아마존은 태양광 및 풍력 프로젝트에 지속적으로 투자할 예정이며, 다른 형태의 무탄소 에너지에도 투자하여 향후 수십 년간 운영 전력을 확보할 계획이다.

켄 헤이그(Ken Haig) AWS 아시아 태평양 및 일본 에너지 및 환경 정책 총괄은 “전 세계 기업의 IT 지출 중 85%가 온프레미스에 집중된 상황에서, 한국 기업이 AWS상에서 AI 워크로드 최적화를 통해 탄소 배출량을 최대 95% 줄일 수 있다는 것은 지속가능성 측면에서 의미 있는 기회”라며, “AWS는 데이터센터 설계 최적화부터 AI 전용 칩에 대한 투자까지 데이터센터 전반의 지속가능성을 위해 끊임없이 혁신하여 고객의 컴퓨팅 수요를 충족하기 위해 에너지 효율성을 지속적으로 높이고 있다.”고 덧붙였다.