빅 데이터의 출현으로 기업은 조직 전반에서 자동화 및 데이터 기반 의사 결정을 추진하고 있다. 하지만 비즈니스 효율성 개선 의도와 달리, 부실한 사전 연구 설계와 편향된 데이터 등으로 데이터 개인정보 보호, 공정성, 환경적 지속 가능성, 기술 오용 등 생성AI의 윤리 문제에 직면하는 경우가 많다.

AI 전문 기업 솔트룩스(대표 이경일)는 자사가 주관한 '사회적·윤리적 학습을 위한 데이터 특성 및 생성AI 모델의 윤리성 향상 연구' 관련 워크샵을 지난 30일 진행했다.

이번 워크샵에는 서울대학교, 성균관대학교, 서강대학교, 건국대학교, 한국과학기술원(KAIST), KT, 한국전자통신연구원(KETI), 다이퀘스트 등 8개의 주요 대학, 연구기관, 기업이 참여했다.

참여 기관들은 각자의 전문성을 바탕으로 생성AI의 사회적·윤리적 편향을 최소화한 데이터셋 'MoEE(Mixture of Ethics Experts, 윤리 전문가 혼합)'을 개발한 단체들이다.

워크샵은 해당 연구 가이드라인 수립 및 연구 성과 공유를 위해 개최됐으며, 참석자들은 다양한 도메인에서 생성AI의 사회적·윤리적 능력을 보편적 특성에 맞게 개선하는 방안과 지속 및 확장 가능한 플랫폼으로 구현하는 방안을 논의했다.

솔트룩스는 사회적·윤리적 편향을 최소화한 '윤리-생성AIOps(Ethics-GenAIOps)' 오픈 플랫폼을 개방해 100만 명 이상의 사용자 확보를 목표로, 오는 12월 4일 서울대학교 AI연구원 인공지능 ELSI 연구센터(센터장 천현득)가 주최하는 '2024 인공지능 ELSI 심포지움'에 참여한다. 이 심포지움에서 인공지능 윤리, 편향성, 신뢰성 등을 주제로 다양한 전문가들과 의견을 나눌 예정이다.

솔트룩스 관계자는 "이번 워크샵은 각 기관의 연구 성과를 공유하고 다각적인 시각과 인사이트를 얻는 유익한 자리였다."라며, "성공적인 과제 수행을 위해 앞으로도 지속적으로 협력과 성과 공유의 장을 마련할 계획이다."라고 밝혔다.