AI가 일상생활에 깊숙이 스며들면서 AI 서비스를 이용하는 소비자들은 AI 기능의 신뢰 및 기능을 위한 데이터의 정확성, 정보 수집, 잘못된 서비스에 대한 법적 책임 소지와 관련해 우려의 목소리를 높이고 있다.

글로벌 AI 검색 플랫폼 펄닷컴(Pearl.com, CEO 앤디 쿠르치그)이 2000명 이상의 16세 이상 미국인을 대상으로 AI에 관한 인식을 조사한 ‘AI 책임 및 신뢰’ 보고서를 발표했다.

이번 조사는 시장 조사 기업 센서스와이드(Censuswide)의 의뢰를 바탕으로 2024년 12월 17일부터 20일까지 응답을 수집했으며, 시장 조사 협회 및 ESOMAR 원칙을 기반으로 응답을 분석했다.

보고서에 따르면 미국 성인의 57%가 부정확성에 대해 AI 플랫폼에 법적 책임을 물어야 한다고 생각하며, 39%는 유해하거나 잘못된 정보를 제공할 경우 AI 제공업체를 상대로 소송을 고려할 것이라고 밝혔다.

한편, 보고서의 주요 결과로 47%의 사람들은 AI 답변이 실제 사람에 의해 검증될 경우 더 큰 확신을 느낄 것이라고 밝혔다. 이에 대해 펄닷컴은 AI의 판단과 그 과정에서 인간의 의사결정이 개입하는 휴먼 인 더 루프(human-in-the-loop) 접근 방식으로 해결할 수 있다고 전했다.

또한 응답자의 42%는 정확성을 보장하는 AI 서비스에 대해 지불할 의향을 표명했다. 그러나 AI 정확도를 10% 향상하는 데에도 업계는 1조 달러 이상의 자본 지출이 필요할 수 있으며, 이는 혁신적인 솔루션의 필요성을 강조했다.

한편, 57%는 잘못된 결과에 대해 AI가 법적 책임을 져야 하며, 39%는 유해한 콘텐츠에 대해 소송을 제기할 준비가 되어 있다고 답했다.

펄닷컴의 CEO 앤디 쿠르치그(Andy Kurtzig)는 “소비자들은 편리함을 갈망하지만 정확성 또한 요구하며, 이를 위해 법적 조치를 취할 준비가 되어 있다.”라며 “점진적인 정확성 향상에 수십억 달러를 쏟아붓는 대신 기업들은 지금 바로 인간 검증 AI를 도입하여 신뢰를 높이고 법적 위험을 줄이며 실제 가치를 제공할 수 있다.”라고 전했다.