한국IDC(인터내셔날데이터코퍼레이션코리아, International Data Corporation Korea)는 최근  'IDC 서베이 스포트라이트(Survey Spotlight): 아시아 태평양 지역 조직의 생성형 AI도입 및 적용 동향‘ 보고서를 발간했다고 금일 밝혔다.

보고서에 따르면, 아시아 태평양 지역 조직의 32%는 생성AI 기술에 적극적으로 투자할 것이라고 답했으며, 38%는 생성AI 적용을 위해 다양한 사용 사례를 참고할 것이라고 응답한 것으로 나타났다. 앞으로 디지털 퍼스트 조직은 엔터프라이즈 인텔리전스를 향상시키기 위해 생성AI를 핵심 요소로 적용하고 마케팅, 영업, 고객 지원, 연구개발, 디자인, 제조, 공급망 그리고 금융 등 다양한 산업의 업무 분야에서 적극적으로 활용할 것으로 보인다.

생성AI 기술의 소프트웨어 활용 사례를 살펴보면, 아시아 태평양 지역에서는 지식 관리(Knowledge management)에 생성AI를 가장 많이 활용하고 있는 것으로 나타났다. 기업은 AI 기반 지식 관리를 통해 다양한 유형의 이미지, 문서, 음성, 기타 형식의 대규모 정보 저장소에 접근하고 검색에 활용한다.

두번째로 많이 활용되고 있는 분야는 코드 생성으로, 이는 애플리케이션 프로그래머가 코드의 생성, 최적화, 완료, 테스트, 디버그 과정에 생성AI를 이용해 프로그래머의 생산성과 코드의 품질을 향상시키고 있는 것으로 나타났다. 이 밖에도 생성AI는 마케팅 자동화나 대화형 애플리케이션과 같은 고객 대면 서비스에 활용되며 마케터가 고도로 맞춤화된 마케팅 콘텐츠와 검색 엔진에 최적화된 콘텐츠를 만들 수 있도록 지원하고 있다.

AI 기술에 대한 관심이 고조되며 MaaS(Model As A Service) 오퍼링을 제공하는 하이퍼스케일러나 클라우드 서비스 공급업체, 포인트 솔루션을 제공하는 AI 엔지니어링 업체, 이러한 솔루션을 호스팅할 수 있는 인프라를 판매하고자 하는 전문 스토리지 업체 등 다양한 기술 공급업체가 시장 기회를 포착하고 우위를 선점하기 위해 시장에 적극적으로 참여하고 있다. 또한, LLM을 테스트하기 위해 필요한 데이터는 방대하기 때문에 개인정보와 같은 민감한 데이터 사용, 데이터 편향 등과 같은 문제를 해결하기 위해 모델 훈련 목적으로 활용할 수 있는 합성 데이터를 제공하는 기업이 급증하는 추세다.

기업 관점에서 생성AI를 실용적으로 활용하는 것은 마케팅, 고객 관리, 코드 생성을 위한 즉각적인 솔루션을 구현하는 것만큼 간단할 수 있다. 기술 공급업체는 현재 다양한 산업 분야에서 생성AI를 내재화하고 있지만, LLM 활용 시 특정 사용 사례에 맞게 데이터를 채택, 학습, 미세 조정해야한다는 점에서 막대한 컴퓨팅rhk 에너지 비용을 수반한다는 단점이 있다.

이에 대한 대안으로 등장한 프롬프트 엔지니어링의 경우 올바른 응답을 도출하기 위해 '자연어' 유형 쿼리를 작성해 모델을 훈련시키는 단순화된 방법을 제공한다. 프롬프트 튜닝을 통해 모델을 재교육하거나 매개 변수를 조정하지 않고 모델을 더 간단하게 교육해 컴퓨팅 요구사항을 낮추는 방식이다. 기술 활용에 대한 접근 방식과 무관하게 모델자체가 무겁다는 특징으로 인해 기본 인프라와 관련된 고유한 비용이 발생한다. 컴퓨팅 가격은 데이터센터를 설정하기 위한 초기 투자의 형태이거나 MAAS 오퍼링의 가격에 포함돼 있어, 이를 무시하기는 어려운 것이 현실이다.

생성AI의 적용과 관련한 여러 이슈들이 부상하면서 데이터 개인정보 보호나 보안, IP 권한과 AI 생성 콘텐츠의 잠재적 오용과 관련된 문제 해결에 대한 논의가 활발해지고 있다. 각국의 정부는 새로운 정책을 수립하기보다는 기존 정책을 고수하는 추세지만, 그럼에도 AI에 대한 세계 각국의 규제 방침은 각기 다르다.

인도 정부는 AI를 디지털 경제의 핵심 요소로 보고 기술 발전을 저해하는 AI 규제에 반대하는 입장이다. 일본 정부는 AI 기술에 대한 세계적인 흐름에 동참하기 위해 AI 기술을 홍보하기 위한 협의회를 설립한 반면, 중국의 국가사이버정보판공실(CAC)은 공식적인 출범 전에 생성AI에 대한 보안 평가와 해당 기술이 미치는 영향을 공개하며 비교적 부정적인 행보를 보였다.

AI에 대한 여러 우려에도 불구하고 현재 아시아 태평양 지역에서 생성AI에 대한 법 규제는 디지털 경제의 혁신 정신을 흐릴 수 있다는 이유로 아직 제대로 마련되지 않은 상황이다. 현재 세계 각국이 AI 규제와 관련해 상이한 단계에 있으므로 해당 기술에 대한 보다 공통되고 일관된 접근이 필요하다.

디피카 기리(Deepika Giri) IDC 아시아 태평양 지역 빅데이터 및 AI 리서치 헤드는 "생성AI는 조직의 환경을 이전과 다른 새로운 방식으로 재창조할 수 있는 잠재력이 있다. 그러나 AI 기술을 적용할 때 내재된 복잡성과 위험성을 간과해서는 안된다”며, "생성AI 기술은 현재 대부분 활용 초기 단계에 머물러있기 때문에 공급 업체들이 AI 기술과 관련된 개인정보 보호, 보안, 정확성, 저작권, 편향과 남용 문제를 아직 완전히 해결했다고 보기는 어렵다”고 언급했다.