글로벌 로우 코드 플랫폼 제공 기업 페가시스템(Pegasystems)과 리서치 회사 사반타(Savanta)가 전 세계 5000명의 소비자를 대상으로 AI에 대한 견해, 지속적인 진화 및 기술과 상호 작용하는 방식에 대해 설문조사를 바탕으로 한 연구 보고서를 발표했다.

보고서에 따르면 소비자들은 자신의 고객 경험을 혁신하는 도구로서 인공지능(AI)을 신뢰하지만, 다른 분야에서 AI의 보급률이 증가하는 것에 대한 우려가 커지고 있다.

응답자의 3분의 2(67%)가 AI가 그들이 교류하는 기업의 고객 서비스를 개선할 수 있는 잠재력을 가지고 있다는 것에 동의하면서, 고객 경험과 관련된 분야에서 AI에 대한 일반적인 수용을 발견했다, 그리고 절반 이상(54%)이 AI를 사용하는 기업이 그렇지 않은 기업에 비해 고객에게 더 나은 혜택을 제공할 가능성이 높을 것이라고 답했다.

한편, 응답자의 절반 가까이(47%)가 기업의 잘 테스트된 AI 서비스와 상호 작용하는 것이 편하다고 답했으며, 3분의 2(64%)는 조직 내 대부분의 주요 부서가 향후 10년 이내에 AI와 자동화를 사용하여 운영될 것으로 예상한다고 답했다.

그럼에도 불구하고, 보고서는 다음과 같은 여러 분야에서 AI에 대한 신뢰 부족을 강조했다:

사용자 선호

고객 참여에서 AI 사용에 대한 욕구를 보여주었음에도 불구하고 응답자의 71%는 여전히 AI 자체보다 인간과 상호 작용하는 것을 선호한다고 말했다. 대다수(68%)는 또한 AI 솔루션 이상의 은행 대출 여부에 대해 인간 은행 직원이 객관적이고 편견 없는 결정을 내릴 것이라고 믿었고, 압도적인 다수(74%)는 올바른 기록을 가진 AI가 만든 것보다 인간 의사의 의학적 진단을 신뢰한다고 인정했다.

하지만 그것이 어떻게 결정에 도달했는지 증명하거나 설명할 수 없었다. 한편, 51%가 자율주행차가 교통사고 상황을 피하는 데 있어 인간 운전자보다 더 윤리적인 결정을 내릴 수 있다고 생각한다고 말했지만, 65%는 AI가 그러한 상황에서 인간 운전자를 압도하도록 허용해서는 안 된다는 데 동의했다.

기계의 부상

응답자의 대다수(86%)는 AI가 비도덕적으로 행동하도록 스스로 진화할 수 있다고 생각한다고 말했으며, 4분의 1 이상(27%)은 이미 이런 일이 일어났다고 말했다. 거의 절반(48%)이 생성 AI가 결국 지각이 있거나 자의식을 갖게 될 가능성이 있다고 말했다. 거의 3분의 1(30%)이 AI가 인류를 노예화하는 것에 대해 우려한다고 말했다. 이는 2019년에 실시된 유사한 연구에서 같은 말을 한 27%보다 약간 증가한 것이다. 16%만이 AI에 대해 전혀 걱정하지 않는다고 말했다.

현실 확인

이 연구는 일상적인 사용을 위한 도구로서 AI에 대한 일반적인 인식이 증가하고 있음을 지적하고 있다. 응답자의 절반 이상이 이제 이 기술이 자신들이 소비하는 모든 사진과 비디오의 절반 이상(55%)을 생산하는 데 책임이 있다고 생각한다고 답했지만, 무엇이 진짜인지 가짜인지 구별하는 것이 얼마나 어려운지에 대한 우려가 커지고 있다.

대다수는 콘텐츠가 인간에 의해 생성되었는지 인공지능에 의해 생성되었는지 여부를 결정하는 데 어느 정도의 어려움을 나타낸다. 거의 3분의 2(63%)는 긴 형식의 기사가 AI에 의해 생성되었는지 사람에 의해 생성되었는지 구별할 수 없다고 답했으며, 비슷한 숫자는 사진(59%)과 비디오(58%)에 대해서도 동일하다고 답했다. 절반 이상(56%)이 AI가 자신이 소비하는 TV 보고서를 생성했는지 여부를 구분하기 어렵다고 답했다.

페가시스템의 1:1 고객 참여 총괄 매니저인 롭 워커(Rob Walker) 박사는 “Midjourney 및 챗GPT와 같은 애플리케이션이 AI를 대중에게 제공함에 따라, 우리가 어느 정도의 갈등을 겪고 있는 것은 놀라운 일이 아니다. 잊지 말아야 한다. 많은 사람들이 이미 이 기술이 가져올 수 있는 이점을 받아들이고 있다. 결국 알렉사나 시리에게 질문을 하는 것은 대부분의 소비자에게 새로운 일이 아니다.”라고 말했다.

하지만 AI에 대한 관심이 높아짐에 따라, 이 기술을 둘러싼 공상 과학 소설에 영향을 받은 '종말의 시나리오'에 대한 두려움과 불확실성의 수준도 증가하는 것은 아마도 피할 수 없을 것이라고 한다. 그는 “이러한 우려가 커짐에 따라, 이러한 조직들은 AI 시스템이 만들어내는 결과에 대해 더 큰 투명성을 입증하고 윤리적 편견 테스트를 수행하여 AI 시스템이 항상 어떻게 '행동'하는지 확인해야 할 필요성이 분명해질 것이다.”고 덧붙였다.

이어서 그는 “우리가 보고 있는 것은 사람들이 인공지능을 사용하는 것이 그 어느 때보다 더 편안해 보이지만, 크고 영향력 있는 결정을 처리할 때는 거리를 두는 것이 낫다는 것이다. 소비자들은 여전히 조직과 상호 작용하는 방식의 핵심 부분으로서 인간의 상호 작용을 유지하고자 하는 강한 욕구를 표출하고 있다. 이것이 우리에게 말해주는 것은 사람들은 중요하고, 소비자들은 항상 인간을 원한다는 것이다. AI와 같은 기술을 수용하는 가장 좋은 방법은 기존의 인간 기술을 보완하고 보강하는 데 사용하는 것이다. 이를 효과적으로 수행할 수 있는 기업은 이점을 얻고 고객을 행복하게 유지하며 생산성을 극대화할 수 있을 것이다.”고 조언한다.