에이전틱 AI의 급속한 확산이 기업의 AI 활용 패러다임을 바꾸고 있다. 그러나 책임 있는 AI(RAI) 구현 수준은 이에 미치지 못하고 있어 위험 노출이 심각한 수준에 이르고 있다.

차세대 디지털 서비스 및 컨설팅 기업 인포시스(Infosys, CEO 살릴 파레크) 산하 인포시스 지식 연구소(Infosys Knowledge Institute, IKI)가 ‘에이전트 시대의 책임 있는 기업 AI 보고서’를 발표했다. 이번 보고서는 호주, 프랑스, 독일, 영국, 미국, 뉴질랜드 등 7개국 1500여 명의 기업 임원 설문과 40명의 고위 의사결정자 인터뷰를 바탕으로 작성됐다.

보고서에 따르면, 조사에 참여한 기업 임원 중 86%가 에이전트 AI가 새로운 위험과 규정 준수 문제를 야기할 것이라고 답했으나, RAI 골드 표준을 모두 충족하는 기업은 2%에 불과했다.

AI 위험 확산과 RAI 준비 수준의 격차

조사결과 C급 임원과 이사급 임원의 95%가 지난 2년간 AI 관련 사고를 경험했다고 답했으며, 39%는 피해를 ‘심각’ 또는 ‘매우 심각’하다고 평가했다. AI 오작동은 개인정보 보호 위반, 편견, 규제 미준수, 부정확하거나 유해한 예측 등으로 이어져 77%의 조직이 재정적 손실을, 53%가 평판 손상을 보고했다.

인포시스의 RAI 역량 벤치마크 기준에 따르면, ‘RAI 리더’는 전체의 2%로 표준을 모두 충족했고, ‘RAI 팔로워’는 15%로 표준의 75% 이상을 충족했다. RAI 리더 그룹은 AI 사고로 인한 재정 손실이 평균 39% 낮았으며, 피해 심각도도 18% 낮았다. 이들은 AI 설명 가능성 향상, 편견 사전 평가·완화, 엄격한 테스트 및 검증, 명확한 사고 대응 계획 수립 등에서 높은 성과를 보였다.

기업에 필요한 RAI 전략

보고서는 AI 도입 속도가 준비 수준을 앞지르는 상황에서 RAI를 규정 준수 의무가 아닌 전략적 우위로 전환해야 한다고 강조했다. 인포시스는 ▲성숙한 RAI 조직의 사례 분석 ▲분산형 제품 혁신과 중앙 집중형 거버넌스 결합 ▲안전한 AI 플랫폼 내 가드레일 내장 ▲RAI 전담 조직 설립과 AI3S(스캔·실드·스티어) 활용을 핵심 전략으로 제시했다. 이를 통해 사전 승인된 데이터와 시스템 내에서만 AI 에이전트가 작동하도록 하고, 위험 모니터링과 정책 설정, 거버넌스 확장을 지원한다.

인포시스의 발라크리슈나 DR(Balakrishna D.R.) 글로벌 서비스 책임자는 “기업 AI 활용에서 신뢰와 위험 완화, 데이터 거버넌스를 기반으로 한 책임 있는 토대 구축이 필수”라며 “에이전트 AI 시대의 잠재력 실현을 위해 플랫폼·제품 중심 활성화와 데이터 자산에 대한 선제적 감시가 필요하다”고 말했다.

인포시스 제프 카바노(Jeff Kavanaugh)연구소 소장은 “RAI를 우선시하는 기업은 위험 완화와 손실 감소뿐 아니라 새로운 수익원 창출로 성공할 수 있다”고 강조했다.