디지털 전환과 함께 AI는 소프트웨어 개발의 속도를 높이고 효율성을 극대화하는 핵심 기술로 자리 잡았다. 그러나 AI가 생성한 코드의 예측 불가능성과 취약성은 소비자의 신뢰를 위협하는 요소로 부상하고 있다.

최근 미국에서 실시된 설문조사 결과는 기업이 AI 기반 애플리케이션을 개발·운영하는 과정에서 투명성과 책임성을 강화해야 한다는 경고를 담고 있다. 특히 애플리케이션 보안은 단순한 기술적 문제가 아닌, 사용자 경험과 브랜드 신뢰도를 좌우하는 핵심 과제로 부각되고 있다.

소비자, AI 코드 취약성에 민감한 반응

AI 기반 애플리케이션 보안 포스처 관리(ASPM) 기업 레짓 시큐리티(Legit Security)가 다이나타(Dynata)와 함께 실시한 조사에 따르면, 미국 소비자 1000명 중 약 25%는 자신이 선호하는 앱이 AI 코드로 작성됐다는 사실을 알게 되면 신뢰를 잃을 것이라고 응답했다.

또 26%는 취약성이 드러난 앱 사용을 완전히 중단하겠다고 밝혔으며, 33%는 다운로드 과정에서 더욱 신중을 기하겠다고 답했다. 이는 AI 코드 도입이 보안 문제와 직접 연결될 경우 사용자의 이탈로 이어질 수 있음을 보여준다.

소비자가 가장 우려하는 부분은 보안 취약성(34%)과 예측 불가능한 앱 동작(23%)이었다. 반면 앱의 안전성을 신뢰하게 만드는 요인으로는 공식 앱스토어(53%), 개인정보 보호정책(46%), 유명 브랜드(45%)가 꼽혔다.

기업, 책임 있는 AI 활용이 핵심

레짓 시큐리티의 공동 창립자이자 CEO 로니 푸크스(Roni Fuchs)는 “AI 자체는 소비자에게 부정적인 단어가 아니다. 문제는 기업이 이를 책임감 있게 사용하는지 여부다”라며, “AI가 취약점을 노출하는 순간 신뢰는 빠르게 무너진다”고 강조했다.

이어 공동 창립자 겸 CTO 리아브 카스피(Liav Caspi)는 “개발팀은 AI로 생성된 코드가 안전하고 신뢰할 수 있도록 보장해야 한다”며, 개발 단계부터 취약점 예방과 탐지, 해결을 우선시해야 한다고 지적했다.

보고서는 세대 간 태도 차이도 드러냈다. 베이비붐 세대의 40% 이상은 AI 취약성에 대해 우려하며, 신뢰를 잃을 가능성이 다른 세대보다 두 배 높았다. 반면 Z세대는 상대적으로 회복탄력성이 크고, 오히려 34%는 AI가 앱에 대한 신뢰도를 높인다고 응답했다. 이는 향후 앱 보안 전략 수립 시 세대별 접근 방식이 필요함을 보여준다.

AI가 소프트웨어 개발의 핵심 엔진으로 자리 잡으면서, 코드 보안은 사용자 신뢰와 직결되는 중대한 요소가 되었다. 레짓 시큐리티의 조사 결과는 기업이 AI 기반 개발 환경에서 보안과 책임성을 강화해야 한다는 경고 신호다. 안전한 AI 코드 관리 없이는 소비자의 신뢰를 확보하기 어렵고, 이는 곧 앱 사용 포기로 이어질 수 있다.