전 세계 금융 및 회계 산업은 인공지능(AI) 기술을 통한 디지털 혁신 요구가 빠르게 커지고 있다. 생성AI와 AI 에이전트 기반 기술은 데이터 분석, 보고, 리스크 관리, 의사결정 등 복잡한 업무를 자동화하고 효율화할 잠재력을 지니고 있다.

특히 AI 에이전트는 사용자가 요청한 업무를 스스로 판단해 실행할 수 있는 능력을 갖추고 있어 반복적이고 대량의 금융·회계 프로세스를 자동화할 수 있다. 그러나 이러한 기술의 도입은 신뢰성 확보, 거버넌스 구축, 전문 인력 부족 등의 이유로 여전히 제한적으로 진행되고 있는 상황이다.

향후 5년 이내에 AI 에이전트 업계 표준 도구될 것

딜로이트(Deloitte)가 운영하는 딜로이트 컨트롤러십 센터(Deloitte Center for Controllership)는 2025년 1월 30일 온라인 세미나를 통해 3300명 이상의 금융 및 회계 전문가를 대상으로 AI와 신흥 기술에 대한 설문조사 결과를 발표했다.

조사 결과에 따르면 응답자의 80.5%는 향후 5년 이내에 AI 에이전트나 생성AI 챗봇이 업계 표준 도구가 될 것이라고 답했고, 14.8%는 이 변화가 12개월 내에도 가능하다고 응답했다. 이미 AI 에이전트를 활용하고 있는 조직은 13.5%에 불과했으나, 33.6%는 현재 구축 중이거나 도입 계획을 갖고 있다고 밝혔다.

AI 에이전트를 도입하면 가장 큰 장점으로 응답자의 42.7%가 효율성과 생산성 향상을 꼽았다. 이미 AI 에이전트를 활용 중인 조직에서는 이러한 응답 비율이 56.1%로 더 높았다. 이외에도 데이터 분석과 인사이트 강화(26.3%), 정확도 향상과 오류 감소(12.4%) 등 AI 기술이 가져올 개선 효과에 대한 기대가 확인되었다. 그러나 기술 인식 부족도 문제로 지적되어, 7.6%는 AI 에이전트가 무엇인지 모른다고 답했다.

신뢰 부족이 최대 장벽으로 부상

딜로이트 조사에 따르면 AI 에이전트 도입과 활용에서 가장 큰 장애물은 기술에 대한 신뢰 부족으로 나타났다. 응답자의 21.3%는 AI 에이전트의 데이터와 프로그래밍에 대한 신뢰 부족이 도입을 가로막고 있다고 답했다.

또한 기존 시스템과의 통합 어려움이 20.1%, 이를 운영할 숙련된 인력 부족이 13.5%로 뒤를 이었다. 응답자 중 59.7%는 AI 에이전트가 정해진 틀 안에서만 의사결정을 내리는 것을 신뢰한다고 답했으며, 2.7%만이 AI 에이전트가 전적으로 판단하는 것을 신뢰한다고 답했다.

딜로이트의 회계감사 및 재무 혁신 부문 책임자인 조나단 헤인즈(Jonathan Haines)는 “AI 에이전트 도입에는 상당한 가능성이 있지만, 신뢰성 구축과 인재 양성의 장벽이 여전히 존재한다”고 강조했다. 또한 딜로이트의 코트 왓슨(Court Watson)은 “재무 및 회계 분야에서 신뢰는 성공적인 AI 구현의 핵심”이라며, “AI 에이전트는 엄격한 정책, 통제 절차, 역할 책임 정의를 바탕으로 운영되어야 하며 이를 통해 신뢰를 확보해야 한다”고 말했다.

딜로이트는 AI 위험 관리와 신뢰성 확보를 위해 ‘신뢰할 수 있는 AI(Trustworthy AI)’ 프레임워크를 적용하고 있다. 이 프레임워크는 투명성, 설명 가능성, 공정성과 공평성, 견고성과 신뢰성, 개인정보 보호, 보안성, 책임성 등 7가지 원칙으로 구성된다. 이는 고객에게 제공하는 AI 솔루션과 자체 AI 운영에 모두 적용된다.

이번 조사 결과는 AI 에이전트와 생성AI 기술이 금융과 회계 분야에서 빠르게 도입될 잠재력을 보여주면서도, 기술 신뢰성 확보와 거버넌스, 전문 인력 확보가 중요한 과제임을 드러냈다. 금융과 회계 부문의 조직은 이러한 과제를 해결해야만 AI 에이전트 기반 혁신을 현실로 만들 수 있을 것으로 보인다.

[알림] GTT KOREA GTT SHOW는 오는 8월 12일 오후 2시부터 3시까지 “피해 큰 BPF Door 같은 커널 기반 악성코드 막는 EDR과 마이크로세그멘테이션 실전 보안 전략”을 주제로 웨비나를 진행합니다. BPF Door 같은 커널 기반의 악성코드가 사용하는 공격 기법과 침투 단계별 위협의 소개, EDR과 마이크로세그멘테이션이 어떻게 상호보완적으로 작동하여 침입 초기 탐지부터 내부 확산 차단까지 이어지는 보안 체계의 구축 전략과 새로운 형태의 변종 공격에 유연하게 대응하는 제로 트러스트 기반 보안 전략을 실전 사례와 함께 제시합니다.