생성AI의 사용이 급증하면서 고객 경험, 자동화, 개인화 서비스 등 다양한 영역에서 혁신이 이어지고 있지만, 동시에 편향 문제는 점점 더 심각한 리스크로 부상하고 있다. 기업들이 AI를 도입함에 있어 기술적 성능에만 집중한다면, 오히려 신뢰 상실과 고객 이탈이라는 비용을 감수해야 할 가능성이 커지고 있다.

특히 소비자는 생성AI가 자신을 공정하게 대우하지 않는다고 느끼는 순간 제품이나 브랜드와의 관계를 단절할 수 있으며, 이러한 인식은 산업 전반에서 실제 비즈니스 성과에까지 영향을 미치고 있다.

AI 중심 커뮤니케이션 컨설팅 기업 베러 투게더 에이전시(Better Together Agency)가 생성AI 편향 영향 조사 보고서 ‘생성AI 편향이 소비자 신뢰를 무너뜨린다: 기업 신뢰 구축을 위한 보고서(Building Consumer Trust: Addressing Bias in Generative AI)’를 발표했다. 1천 명 이상의 미국 소비자 대상으로 수행된 설문조사 결과를 바탕으로 작성된 이 보고서는 생성AI에서 발생하는 편향이 소비자의 구매 결정, 브랜드 충성도, 시장 점유율, 그리고 기업 평판까지 실질적으로 영향을 미친다는 점을 수치로 입증했다.

AI 편향, 고객 손실과 수익 악화의 원인

베터 투게더 에이전시의 조사에 따르면, 생성AI의 편향은 제품과 서비스 전반에 걸쳐 소비자 신뢰를 약화시키고 있다. 보고서에 따르면 전체 소비자의 83%가 생성AI를 사용해본 경험이 있으며, 이들 중 59%는 공정하고 포용적으로 설계된 생성AI를 사용하는 기업을 더 신뢰한다고 응답했다. 특히 33%는 생성AI에서 편향이 드러날 경우 해당 제품 사용을 중단하겠다고 밝혔고, 25%는 편향 문제를 해결하려는 기업 제품을 더 선호한다고 밝혔다.

소비자가 지적한 주요 편향 유형은 ▲얼굴 인식 오류 등 식별 편향(48%) ▲인종 및 민족적 편향(46%) ▲언어와 문화 맥락 부족(40%) ▲성별 고정관념 및 연령, 장애, 정치 성향 등이 지적됐다.

고위험 산업, ‘편향 리스크’ 커

편향이 소비자 신뢰에 미치는 영향은 산업에 따라 다르게 나타났다. 의료(56%), 교육(50%), 금융(45%) 등 고위험 산업일수록 소비자의 신뢰 손실이 브랜드 피해로 직결될 가능성이 높았다. 특히 의료나 금융 AI 도구가 인종이나 성별에 따라 진단이나 대출 승인 결과를 다르게 내놓을 경우, 이는 법적·사회적 파장으로 이어질 수 있다. 

예컨대 항공사 제트블루(JetBlue)는 AI 기반 채용 도구에서 특정 집단이 통과율 80% 이하로 떨어진 것이 밝혀져 재설계에 나선 바 있다.

포용적 AI 설계로 시장 확대와 수익 증대 달성

글로벌 패션 브랜드 마이클 코어스(Michael Kors)는 자사 온라인 쇼핑 AI ‘쇼핑 뮤즈(Shopping Muse)’를 다양한 체형과 피부 톤을 반영해 개선한 후, 플러스사이즈 소비자의 구매 전환율을 23% 향상했고 750만 명 규모의 신규 고객층을 확보했다. 뷰티 전문 리테일 체인 울타 뷰티(Ulta Beauty)는 모든 피부 톤을 분석 가능한 스킨케어 AI를 도입해 유색인종 고객군의 충성도를 높였다.

기업이 생성AI 편향을 해결하기 위해서는 ▲리더십 차원의 윤리적 AI 비전 수립 ▲다양한 인종·성별·언어를 반영한 학습 데이터 확보 ▲사전·사후 편향 테스트 및 감사 체계 마련 ▲편향 실시간 필터링 및 알고리듬 가중치 조정 ▲사용자 피드백 수집과 지속적 개선을 위한 피드백 루프 구축해야 한다.

이러한 전략은 비용 절감, 고객 유지율 상승, PR 위기 회피, 규제 대응력 확보 등 다양한 비즈니스 이점을 제공한다.

베러 투게더 에이전시 캐서린 몽고메리(Catharine Montgomery) CEO는 “공정한 생성AI 설계는 윤리적 실천일 뿐 아니라 수익과 직결된 전략적 선택”이라며 “오늘 포용적인 AI를 개발한 기업이 내일 시장을 점유할 것”이라고 말했다.