최근 생성AI가 전 산업에 걸쳐 활용되면서 금융 기관들도 챗GPT와 같은 생성AI 기술의 중요성을 빠르게 인지하고 막대한 비용을 투입해 대형언어모델(LLM)과 같은 원천 기술의 내재화와 적용에 힘쓰고 있다.

데이터센터는 생성AI와 같이 최신 AI 워크로드를 지원하기 위해서 충분한 전력 공급량과 서버 냉각 기술을 갖추고 있어야 한다. AI 서비스는 많은 전력을 소비하는 고성능 컴퓨팅이 필요한데, 전력을 많이 소비할수록 한 공간에 수용 가능한 서버 수가 줄고 높은 발열량 때문에 서버 수명도 짧아지기 때문이다.

카카오뱅크는 AI를 기반으로 금융 혁신을 지원하기 위해 고성능 컴퓨팅(HPC), 고집적 워크로드에 최적화된 인프라와 연결성을 제공하는 디지털 리얼티(Digital Realty)의 ICN10 데이터센터를 선택했다. 카카오뱅크 AI 센터는 AI 기반의 서비스 고도화, 맞춤형 콘텐츠 생산뿐만 아니라 금융과 연계한 다양한 서비스 및 신규 서비스 개발(R&D)를 지원할 예정이다.

디지털 리얼티의 데이터센터 솔루션은 AI 워크로드를 지원하기 위한 유연한 모듈식 서비스와 고객의 요구사항에 맞춘 고성능, 냉각, 레이아웃, 연결성을 제공한다. 지난해 8월 랙당 최대 70킬로와트(kW)의 워크로드를 지원하기 위해 글로벌 28개 시장에서 고밀도 코로케이션 서비스를 출시했다. 디지털 리얼티의 ICN10 데이터센터는 공기 보조 액체 냉각(AALC) 기술을 기반으로 GPU 서버를 수용할 수 있다는 공급 업체 인증을 받은 바 있다.

또한 ICN10은 16년 연속 파이브 나인스(five-nines)를 달성한 노하우를 바탕으로 고가용성을 보장하며 업타임 인스티튜드(Uptime Institute)에서 무중단 유지보수가 가능한 티어 3등급을 받아 어떤 재난∙재해 상황에서도 운영이 가능하다.

디지털 리얼티의 글로벌 데이터센터 플랫폼인 플랫폼디지털(PlatformDIGITAL)은 서비스패브릭 커넥트(ServiceFabric Connect)를 통해 기업 에코시스템 전반의 데이터 세트에 대한 안전한 프라이빗 클라우드 사용을 지원한다.

뿐만 아니라, 디지털 리얼티 ICN10은 AWS 다이렉트 커넥트(Direct Connect) 온램프(On-Ramp)를 지원한다. 향후 카카오뱅크 AI 센터가 하이브리드 클라우드 운영 모델로 전환 시 클라우드 온램프 연결을 쉽게 확장할 수 있다. 카카오뱅크는프라이빗 인프라를 AWS 아태지역(서울)에 연결해 AWS에 대한 저지연 및 고성능의 안전하고 비용 효율적인 연결을 활용할 수 있다.

또한 ICN10의 서울 디지털 미디어 시티 중심부에 위치한 지리적 이점과 네트워크 중립 환경은 지연 시간을 최소화하고 국내 금융 기관의 기존 데이터센터에 다양한 연결 옵션을 제공한다.

카카오뱅크의 안현철 최고연구개발책임자는 “이번 AI 센터 개소를 통해 카카오 공동체와 외부 학계, 기업들과 협력을 강화할 수 있는 환경을 갖추고 생성AI, 언어 모델 등 복잡한 연산이 필요한 다양한 AI 기반 사업과 연구에 속도를 낼 계획”이라며 “더 많은 고객들에게 선택받고 지속적으로 성장하기 위해 기술 역량을 고도화할 것”이라고 밝혔다.