AI 활용이 기업 비즈니스의 핵심 전략으로 떠오르면서, 고속 처리와 실시간 분석 역량을 갖춘 인프라 수요가 증가하고 있다. 특히 대규모 언어 모델과 생성AI를 실시간 거래 시스템에 접목하려는 기업들에게는 고성능 연산과 철저한 보안이 요구된다. 이에 따라 메인프레임 기반의 AI 지원 시스템은 산업 전반에서 주목받고 있다.

IBM이 AI 추론과 대규모 워크로드 처리에 특화된 새로운 AI 중심 메인프레임 시스템 ‘IBM z17’을 10일 공개했다. 

온칩 AI 가속기와 스파이어 액셀러레이터로 실시간 추론 지원

IBM z17은 IBM 텔럼 II 프로세서에 내장된 2세대 온칩 AI 가속기를 기반으로 하루 4500억 건 이상의 추론을 처리하며, 응답 속도는 1ms이다. z16 대비 하루 최대 50%까지 더 많은 AI 추론을 처리할 수 있으며, 데이터 중심의 트랜잭션 환경에서 빠르고 정확한 의사결정을 가능하게 한다. 프로세서의 향상된 주파수, 컴퓨팅 용량, 40% 증가된 캐시가 이러한 성능 향상에 기여한다.

더불어, 2025년 4분기 출시 예정인 IBM 스파이어 액셀러레이터는 PCIe 카드 형태로 제공되며 텔럼 II 프로세서를 보완하는 역할을 한다. 이 액셀러레이터는 다중 모델 AI 연산을 최적화하며, 메인프레임 내 엔터프라이즈 데이터를 활용한 생성AI 어시스턴트 실행에 특화돼 있다. 이를 통해 트랜잭션 기반 AI 활용을 넘어, 복잡한 생성AI 기능도 실시간으로 처리할 수 있다.

AI 어시스턴트와 Z 오퍼레이션 통합으로 사용자 경험 혁신

IBM z17은 왓슨x 기반의 AI 어시스턴트와 에이전트를 통해 사용자 경험을 강화한다. 개발자와 IT 운영자는 IBM 왓슨x 코드 어시스턴트 포 Z(IBM watsonx Code Assistant for Z) 및 왓슨x 어시스턴트 포 Z(IBM watsonx Assistant for Z)를 활용해 효율적인 시스템 관리와 개발 자동화를 실현할 수 있다. 특히, 왓슨x 어시스턴트 포 Z는 실시간 시스템 데이터를 분석해 사고를 감지하고 채팅 기반으로 해결 방안을 제시하는 ‘Z 오퍼레이션 유나이트(Operations Unite)’와의 통합을 지원한다.

이 외에도 z17은 대출 리스크 완화, 챗봇 서비스 관리, 의료 이미지 분석, 상거래 범죄 방지 등 250개 이상의 AI 활용 사례를 지원한다.

한편, IBM z17은 2025년 6월 18일 정식 출시될 예정이다. 

한국 IBM Z/리눅스원(LinuxONE) 사업총괄 류정훈 상무는 “IBM 메인프레임은 전 세계 금융 거래의 70%를 처리하고 있다.”라며, “최근 기업들이 AI 활용에 큰 관심을 보이는 만큼, AI 성능을 향상시킨 z17을 통해 많은 업무를 효율적이고 안전하게 처리할 수 있도록 지원하겠다.”라고 말했다.