딜로이트(Deloitte)의 연례 보고서인 ‘기술의 윤리와 신뢰 상태’에 따르면, 생성AI의 광범위한 사용으로 잠재적인 이점에 대한 인식이 확대되었지만, 기업과 개인에게 미치는 오용의 위험에 대한 우려는 여전히 가장 큰 관심사로 남아 있는 것으로 나타났다.

설문조사에 참여한 전문가 중 46%는 인지 기술이 책임감 있게 사용될 때 가장 큰 사회적 이익을 창출할 수 있는 잠재력을 가지고 있다고 답했다. 이는 2023년의 39%보다 증가한 수치이다. 응답자의 54%는 AI와 생성AI 같은 인지 기술이 다른 신흥 기술에 비해 가장 심각한 윤리적 위험을 초래한다고 말했다.

신기술에 대한 윤리적 지침 개발과 관련하여, 응답자의 27%만이 조직에서 생성AI에 대한 별도의 윤리적 표준을 가지고 있다고 응답했다. 보고서는 윤리적 지침이 없거나 활용도가 낮은 조직이 계속해서 위험에 노출될 수 있으며 이해관계자의 신뢰와 사회적, 평판적, 재정적 가치를 구축할 기회를 놓칠 수 있다고 지적했다.

딜로이트의 기술 신뢰 윤리 부서는 전 세계적으로 1800명 이상의 비즈니스 및 기술 전문가들을 대상으로 설문조사를 실시하여 조직이 신기술에 대한 윤리 원칙을 어떻게 평가하고 구현하는지 조사했다. 또한 설문조사 결과를 지원하기 위해 업계 및 딜로이트 내부의 26명의 전문가와 리더를 인터뷰하여 통찰력을 수집했다.

딜로이트 US의 의장인 라라 아브라시(Lara Abrash)는 “생성AI와 기타 신기술의 신속한 도입은 다양한 경험과 관점을 가진 조직, 리더, 전문가 간의 협력적 접근 방식을 요구하여 적절한 윤리적 기준을 정의하고 구현한다.”라면서 “미래 세대는 현재 내려진 결정을 돌아볼 것이다. 이 시기에 형성된 세계를 물려받을 사람들을 위한 공동의 책임을 존중하는 것이 중요하다.”라고 말했다.

안전이 최우선

올해 설문에서 응답자의 78%가 ‘안전과 보안’을 3대 윤리적 기술 원칙 중 하나로 선택했다. 이는 지난해보다 37% 증가한 것이다. AI에 대한 우려와 관련하여 응답자는 데이터 개인정보 보호를 가장 중요하게 강조했으며, 응답자의 40%가 데이터 개인정보 보호를 가장 큰 우려 사항으로 평가했다.

조직과 신기술에 대한 신뢰는 감소하고 있으며, 특히 젊은 세대에서 더욱 두드러지는 것으로 드러났다. 2023년에는 밀레니얼 세대의 87%와 Z세대 응답자의 81%가 조직의 윤리적 메시지에 대해 동의한다고 답했는데, 2024년에는 각각 77%와 65%로 감소했다. 전반적인 동의는 89%에서 81%로 감소하여 모든 연령대의 직원들이 조직과 협력하고 있지만 해결되지 않으면 감소할 수 있음을 나타냈다.

평판 손상을 가장 우려

새로운 기술에 대한 윤리적 표준을 따르지 않을 경우 조직에 발생할 수 있는 부정적인 결과에 대해 응답자들은 평판 손상(82%), 재정적 피해(66%), 규제기관의 처벌(60%)을 3대 우려 사항으로 꼽았다.

한편 기술 윤리 교육에 대한 투자가 증가하고 있으며, 응답자의 80%가 필수 기술 윤리 교육을 완료해야 하며, 2022년 이후 7% 포인트 증가한 것으로 나타났다. 또한 응답자의 67%가 조직에서 직원들이 AI에 익숙해질 수 있는 내부 도구를 제공한다고 답했다. 그러나 다양한 포커스 그룹은 윤리적 기술 표준을 제정하는 데 덜 활용되는 것으로 보이며, 응답자의 36%가 조직이 표준 개발에 다양한 포커스 그룹을 사용했다고 답했다.

글로벌 딜로이트 AI 연구소의 책임자인 비나 아마나스(Beena Ammanath)는 “생성AI의 광범위한 가용성과 채택은 응답자의 기술에 대한 친숙함과 자신감을 높여 긍정적인 영향에 대한 낙관론을 높일 수 있다. 명백한 위험에 대한 지속적인 경고는 긍정적인 영향을 가능하게 하는 구체적이고 진화된 윤리적 프레임워크의 필요성을 강조한다. 지정된 윤리 리더, 다양한 작업 그룹, 교육 및 내부 AI 도구는 윤리적 지침 노력의 속도와 성공을 높이는 데 적용되어야 한다.”라고 말했다.

[알림] GTT KOREA와 전자신문인터넷이 오는 9월 27일(금) 서울 양재동 엘타워 그레이스홀(양재역)에서 공동으로 주최하는 “NABS(Next AI & Bigdata Summit) 2024”에서는 “비즈니스에 성공하는 AI & Big Data 혁신 전략”을 주제로 글로벌 AI와 빅데이터 산업을 이끌고 있는 글로벌 리더 기업들이 급변하는 기술과 비즈니스 환경에서 생산성과 효율성 및 비용 절감까지 조직과 비즈니스를 혁신할 수 있는 맞춤형 차세대 AI와 빅데이터 전략을 제시합니다.