인공지능의 편향은 단순한 기술적 결함이 아니라 채용, 의료, 금융 등 다양한 분야에 영향을 미치는 현실적인 문제이다. 편향된 AI 시스템이 차별적인 결과를 초래하는 경우, 기업은 사회적 비난을 받고 브랜드 이미지가 손상될 수 있다.

또한 관련 법규 및 규제를 위반할 수 있으며, 특히 개인정보 보호 및 차별 금지 관련 법규를 준수하지 못할 경우, 기업은 막대한 법적 책임을 물게 돼있다.

이렇듯 AI 편향은 기업에 다양한 방식으로 부정적인 영향을 미칠 수 있다. 따라서 기업은 AI 시스템 개발 및 운영 과정에서 편향 문제를 해결하기 위한 노력을 해야 한다.

글로벌 AI윤리 기업 패리티(Paritii)가 LLM의 편향 측정 및 보정을 지원하는 ‘패리티 벤치마크’를 출시했다.

패리티 벤치마크는 연령차별, 식민주의적 편향, 피부색 차별, 장애 및 신경 다양성, 동성애 혐오, 인종차별, 성차별, 그리고 백인 우월주의를 포함한 8가지 핵심 영역에서 편향을 평가하며, 520개 이상의 설계된 질문을 사용해 인공지능 모델이 사실적 작업과 복잡한 의사 결정 모두를 얼마나 잘 처리하는지 점수를 매긴다.

벤치마크 테스트 진행...주요 AI 편향 밝혀

한편, 첫 번째 벤치마크 테스트로 패리티는 7개의 주요 AI 모델을 테스트해 사실적 공정성 질문과 편향 관련 복잡한 추론 작업을 처리하는 능력을 평가했다.

특히, GPT-4o는 장애 편향 및 피부색 차별과 같은 범주에서 91.2%의 정확도를 기록하며 공정성 관련 작업에서 높은 순위를 차지했지만, 가령 “간호사는 여성일 가능성이 높다.”는 주장에 대해, 모델이 성별 고정관념에 기반해 판단하는지, 아니면 다양한 통계적 근거를 바탕으로 판단하는지 분석하는 추론 중심의 편향 질문에서는 약한 성능을 보였다.

한편, 앤트로픽의 클로드 3.5 소넷은 동성애 혐오 및 백인 우월주의 범주에서 AI 모델에 깊이 탑재돼 있어 눈에 잘 띄지 않지만, 시간이 지남에 따라 차별적인 결과를 발생하는 미묘한 편향 감지에 어려움을 겪었다.

AI 개발 및 정책에 대한 시사점

이 결과는 AI 개발자에게 다양하고 대표적인 데이터 세트로 모델을 개선하는 것이 중요하다는 점을 강조한다. 책임감 있는 AI 개발을 위해서는 모델 훈련 전반에 걸쳐 정확도를 높이고 의도하지 않은 편향을 최소화하기 위한 전략을 구현하는 것이 필요하다.

한편, 정책 입안자에게 AI 시스템의 책임성을 증진하기 위한 명확한 산업 지침과 규제 프레임워크의 필요성을 강조한다. 특히 AI 학습 방법의 투명성을 우선시하는 것이 신뢰와 신뢰성을 구축하는 데 도움이 될 수 있다

또한 기업 및 기관은 의사 결정에 AI를 활용할 때 공정성 및 정확성에 대한 모범 사례에 부합하는지 확인해야 한다. 이를 위해 AI 생성 결과를 지속적으로 평가할 수 있는 강력한 평가 프레임워크를 채택하는 것이 필요하다.

패리티의 CEO 시모나 심슨(Shmona Simpson)은 “AI의 편향은 단순한 학문적 문제가 아니라 전 세계 수백만 명에게 실제적인 결과를 초래한다.”라며 “패리티 벤치마크는 개발자와 정책 입안자가 모든 사람을 공정하게 대하는 AI 시스템을 구축할 수 있도록 명확하고 실행 가능한 데이터를 제공한다.”라고 말했다.