전 세계 기업들에 클라우드 마이그레이션 등의 DX가 가속되는 가운데 데이터 분석, 애플리케이션 변환, 최적화 등의 복잡하고 많은 작업을 수행하는 데에 AI가 속속 도입되고 있다.

그러나 데이터를 처리하는 과정에 있어 AI 모델 편향성, 모델 혹은 프롬프트의 오작동으로 자칫 기밀 자료를 누출할 수 있는 등 여러 우려 사항이 발생하고 있다. 기업들은 이를 막으려 자사의 환경에 맞는 AI 거버넌스를 적용하고 있다.

하지만 기업 내외부의 환경이 일관적이지 않으며, 심지어 국가별로 다른 규제를 적용하고 있어, DX에 AI를 도입하는 데에 주저하는 기업들이 많다.

글로벌 클라우드 및 DX 기업 유니파이클라우드(UnifyCloud)가 자사의 클라우드 마이그레이션 및 DX 지원 플랫폼 ‘클라우드아틀라스(CloudAtlas)’에 AI 거버넌스를 지원하는 ‘클라우드아틀라스 AI 가디언(CloudAtlas AI Guardian)’을 출시했다.

이 솔루션은 DX 과정을 단순화하는 엔드 투 엔드 솔루션으로, 기업이 클라우드 및 AI 환경을 매끄럽게 개발, 마이그레이션 및 관리할 수 있도록 지원한다. 이를 바탕으로, 조직이 AI를 비즈니스 운영 통합 시 상황 맞춤화된 AI 거버넌스를 제공한다.

클라우드아틀라스 AI 가디언의 주요 특징으로 ▲AI 윤리 실천 ▲AI 보안 및 성능 강화 ▲규제 준수 등이 있다.

먼저, 조직이 AI의 데이터 세트를 어디까지 다뤄야 하는지, 어떤 워크로드를 설계해야 하는지 등의 윤리적 기준을 수립하고 유지하도록 설계해 팀이 AI 모델을 잠재적 편향성, 공정성 및 책임성을 평가할 수 있게 지원한다.

또한 AI 모델의 잠재적 취약점을 식별해 보안과 성능을 강화하고, 파이프라인에 기반한 데이터 프라이버시를 보장하며 AI 배포의 신뢰도를 높인다. 또한 이를 기반으로 글로벌 및 산업별 AI 규제 준수를 보장한다.

유니파이 클라우드 저스틴 쿠퍼(Justin Cooper) 국제 영업 VP는 “윤리적인 AI 실천은 조직이 AI의 잠재력을 완전히 발휘하는 데 있어 중요하며, 이 기능을 통해 고객과 파트너는 DX에 AI를 안전하고 윤리적으로 사용할 수 있다.”라고 말했다.