오픈AI가 작년에 생성AI를 선보인 이후 그것은 늘 회자돼 왔다. 그럴 만한 이유가 있다. 제대로 이루어졌을 때 그 이점은 명백하며 기업의 시간, 비용, 자원을 절약해준다. 고객 서비스부터 기술에 이르기까지 다양한 산업이 이러한 변화를 경험하고 있다.

존 스노우 랩스(John Snow Labs)의 최근 연구에 따르면, 전반적으로 생성AI 예산이 크게 증가했으며, 모든 의료 기술 리더의 약 1/5이 300% 이상의 예산을 증가했다고 밝혔다.

그러나 현실은 대부분의 생성AI 프로젝트가 실패하기 때문에 그러한 이점을 실현하지 못한다는 것이다. 여기에는 비현실적인 기대에서부터 프로젝트를 추진할 AI 인재의 부족, 환각과 정확성에 대한 우려에 이르기까지 다양한 이유가 있다.

생성AI 활용 저해하는 아이덴티티 과제

이러한 요인들이 모두 중요하지만, 생성AI로부터 가치를 실현하기 어렵게 만드는 아이덴티티 특유의 여러 과제들이 있다. 아이덴티티 리더들은 생성AI 이니셔티브에 전면적으로 뛰어들기 전에 두 번 생각해야 할 몇 가지 이유가 있다.

① 데이터 오염

생성AI 프로그램은 입력하는 데이터만큼만 좋다. 그러나 대부분의 기업에서 아이덴티티 데이터가 체계적이지 않고, 지저분하며, 오래됐다. 클리어스카이(ClearSkye)의 최근 설문조사에 따르면, 응답자들 중 이메일(50%)이 권한과 자격을 제어하는 가장 인기 있는 옵션으로 언급되었다. “쓰레기를 넣으면 쓰레기가 나온다.”라는 오래된 격언이 여전히 유효하며, 생성AI도 다르지 않다. 입력이 잘못되면 AI가 생성한 결과도 잘못되어 사실상 쓸모없게 된다.

② 조직의 사일로

생성AI 애플리케이션과 IT 부서 모두에게 가장 큰 과제 중 하나는 앞서 언급한 이메일과 스프레드시트를 포함한 수많은 분산 시스템에서 데이터를 한데 모으는 것이다. 이 정보를 얻은 후 데이터가 정확한지도 의문이다. 다시 말해, 아이덴티티의 경우 모든 직원이 여전히 최신 상태이며, 데이터가 반영하는 것과 동일한 직위와 접근 권한, 특권을 가지고 있는가 확인해야 한다.

③ 데이터 처리의 복잡성

생성AI가 효과적으로 기능하려면 대량의 데이터가 필요하다. 아이덴티티 거버넌스 프로그램은 개인정보와 접근 관련 정보를 포함한 민감하고 다양한 데이터 세트를 다룬다. 생성AI 모델이 개인정보 보호와 보안을 유지하면서 이 데이터를 처리하고 관리할 수 있도록 보장하는 것은 복잡하며 데이터 익명화와 암호화에 상당한 노력이 필요하다.

④ 정확성과 신뢰성

아이덴티티 거버넌스는 사용자 식별, 접근 제어, 규정 준수 모니터링에 높은 정확성을 요구한다. 생성AI 모델은 때때로 훈련 데이터의 편향이나 모델의 한계로 인해 부정확하거나 예상치 못한 결과를 생성할 수 있다. AI의 결정이 중요한 거버넌스 작업에 충분히 신뢰할 만하고 믿을 수 있도록 보장하는 것은 중대한 과제이다.

④ 규정 준수

아이덴티티 거버넌스 프로그램은 GDPR, HIPPA 등 엄격한 규제와 표준을 준수해야 한다. 이러한 프로그램에 생성AI를 통합하려면 엄격한 규정 준수 검사와 감사 기능이 필요하다. AI는 투명하고 설명 가능해야 하며, 이는 복잡한 생성 모델에서 달성하기 어려운 경우가 많아 잠재적으로 규제 문제로 이어질 수 있다.

모든 것은 데이터의 품질과 무결성에 달려 있다. 조직이 할 수 있는 가장 영향력 있는 일은 AI뿐만 아니라 전반적인 비즈니스 운영과 보안을 위해 내부를 정리하는 것이다. 그렇지 않으면 생성AI의 결과가 기대한 대로 나오지 않아 시간과 비용을 낭비하고, 골칫거리가 생길 가능성이 크다.

생성AI에 대한 열망은 분명 조직의 데이터를 좋은 상태로 만드는 촉매제이다. 그러나 CSDM과 같은 데이터 동기화 도구조차도 충분하지 않을 수 있다는 점을 명심해야 한다. 아이덴티티 프로그램에서 생성AI를 활용하는 도전을 감행하는 것은 좋다. 다만 먼저 데이터 정리에 시간과 리소스를 투자해야 한다.

*필자 잭슨 쇼(Jackson Shaw)는 클리어스카이(ClearSkye)의 최고 전략 책임자이다. 잭슨은 토론토에 본사를 둔 줌잇(Zoomit)에서 ID 관리 경력을 시작했다. 줌잇은 마이크로소프트가 1999년에 인수한 메타 디렉터리 제품 개발 업체이다. 마이크로소프트에 근무하는 동안 그는 액티브 디렉터리와 마이크로소프트 아이덴티티 매니저를 포함한 ID 및 액세스 관리 제품에 대한 제품 기획 및 마케팅을 담당했다. 이후 그는 빈텔라, 퀘스트 소프트웨어, 델, 원 아이덴티티, 포스포인트 등에서 제품 관리 및 마케팅 역할을 맡았다.

(* 이 칼럼은 GTT KOREA의 편집 방향과 다를 수 있습니다.)