지난 1년여 동안 생성AI는 다른 어떤 유형의 기술보다 더 많은 미디어의 주목을 받았다. 지금까지 데이터 과학은 당연히 이러한 혁신 스토리의 중심에 있었다. 강력한 데이터 과학 프로그램 없이는 어떤 차세대 기술 도구도 작동할 수 없다 .

챗GPT와 달리(DALL-E) 같은 생성AI 도구가 주류를 이루자마자, 전문가와 대중들은 AI 회의론자부터 AI가 미래에 대부분의 작업을 자동화할 것이라는 믿음까지 다양한 의견을 내놓았다.

기술자로서 우리는 알고 있다. 진실은 이러한 극단의 중간 어딘가에 있다는 것을.

그러나 조직이나 팀, 경영진은 무엇이 과대 광고이고 무엇이 현실인지에 대한 세밀한 요점을 알지 못할 수 있다. 또한 이러한 신화의 존재는 조직 내에서 잘 설계되고 사려 깊은 생성AI 솔루션을 구축하는 데 장벽이 될 수 있다.

그러니, 디지털 전문가들이 나서서 리더와 동료들을 위해 생성AI에 대한 신화를 깨뜨리고 새로운 기술을 구체화해야 한다.

• 신화 1. 생성AI는 모든 것을 자동화할 수 있으며 우리의 작업을 대체할 수도 있다

생성AI가 주류로 떠올랐을 때 모든 사람들의 입에 오르내렸던 질문은 “AI가 내 일을 위해 오는가?”였다.

AI에 대한 이러한 과장된 견해는 신화다. AI는 당신의 일을 위해 오는 것이 아니라, 당신의 일로 오는 것이다. 데이터 과학자이자 기술 전문가로서 우리는 예측 모델, 의사결정 엔진, 사기 탐지와 같은 도구를 수년간 사용해 환상적인 결과를 얻었다. 생성AI는 이러한 지능형 도구들과 함께 기업들이 진정한 디지털 전환을 달성하도록 돕는 퍼즐의 마지막 조각이다.

그러나 표면 아래에는 직장에서 AI를 실제로 적용하는 것에 대해 깨뜨릴 또 다른 신화가 숨어 있다.

AI의 강력한 기능을 고려할 때 모든 사람은 매우 복잡한 문제를 해결하는 작업에 AI 도구를 사용하고 싶어한다. 하지만 AI가 쉬운 문제를 더 잘 해결할 수 있는데 왜 어려운 문제부터 시작할까?

생성AI는 직장에서 인간의 행정적 부담을 떠맡을 수 있다는 것이 입증됐지만 비즈니스에 대한 판단을 내릴 수는 없으며 결코 그렇게 되지 않을 것이다. 정보에 입각한 확실한 결정을 내리려면 인간이 있어야 하기 때문에 생성AI가 모든 것을 자동화하지는 않는다.

직장에서 생성AI의 진정한 이점은 모델을 모든 쉬운 일을 처리하는 작업으로 설정하고, 직원들이 판단과 의사결정, 민감하고 인간의 손길이 필요한 작업에 집중할 수 있도록 하는 것이다.

이러한 방식으로 비즈니스 프로세스가 변화하고 기업은 새로운 수준의 효율성과 성장을 달성할 수 있다.

• 신화 2. 대형 언어 모델에서는 데이터가 안전하지 않다 .

지난 한 해 동안 동료와 고객들로부터 자주 들었던 우려 사항은 LLM(대형 언어 모델)에서 사용될 때 데이터와 문서의 안전에 관한 것이었다.

많은 사람들이 데이터 개인정보 보호를 최우선으로 생각하고 사이버 보안 위협이 사상 최고 수준에 달하는 상황에서, LLM에서 사용될 때 데이터와 문서가 공개 도메인의 일부가 될 것이라고 우려하는 것은 당연하다.

가정에 따르면 이는 사실일 수 있다. IP 유출이나 데이터 침해가 발생하면 기업의 데이터가 공개 도메인의 일부가 될 수 있다.

그러나 적절한 사이버 보안 인프라와 강력한 정책 및 관행 거버넌스를 통해 기업은 LLM 내에서 데이터와 문서가 공개적으로 공유되는 것을 보호할 수 있다. 데이터는 자체 네트워크 내에서 격리되고 암호화된 상태로 유지돼야 하며, 기업은 이러한 도구를 활용할 때 스토리지와 LLM 간의 안전한 데이터 전송을 보장해야 한다.

오픈AI의 챗GPT와 같은 현재 사용 가능한 많은 LLM을 기업의 생태계 내에 설치해 도구를 사용할 수 있도록 할 수 있지만, 생성AI의 데이터와 학습은 LLM 내에서 향후 훈련이나 머신러닝의 일부가 되지 않는다. ‘데이터는 들어올 수는 있지만, 절대 나갈 수는 없다’는 말이 있다. LLM 공급 업체의 적절한 보안 제어를 통해 이러한 보호 조치가 구현될 수 있다.

다행스럽게도, AI 관련한 규제 지침들이 제정되고 있다. 현재 EU에서 진행 중인 법안과 같이 생성AI 도구(그리고 일반적인 AI 도구)의 사용과 관련한 더 많은 법안이 곧 나오게 될 것이다. 이를 준수하지 않거나 사이버 보안 인프라가 부족한 기업은 심각한 결과에 직면할 가능성이 높다.

• 신화 3. 생성AI는 모든 종류의 문제에 적용될 수 있다 .

지난 8월 월스트리트저널은 ‘AI가 얼굴 사진을 망쳤다’는 제목의 기사를 게재했다. 이 이야기는 생성AI가 ‘프로페셔널’이라는 개념을 적용했을 때 유색인종 여성이 경험한 효과를 설명했다. 전문적인 얼굴 사진을 만들기 위해 생성AI에게 자신의 사진을 편집하도록 요청했을 때 인터뷰에 응한 여성들은 결과가 좋지 않다는 것을 발견했다. 생성AI 도구는 더 전문적인 이미지를 해석하면서 피부색과 얼굴 특징을 변경하고 LLM의 기술 편향된 개념을 보여주었다.

무엇이 잘못되었을까? 생성AI는 디지털 공간에서 인간의 콘텐츠로부터 학습한 내용을 바탕으로 해석해 달라는 요청을 받았다. 불행하게도 우리는 모든 분야에서 전문직 여성에 대한 편견이 존재한다는 것을 알고 있다. 따라서 인간이 만든 콘텐츠로부터 학습한 AI 모델이 그러한 편견 역시 해석하는 것은 놀라운 일이 아니다.

쿼리가 이미지를 생성하는 것처럼 단순하든, 글로벌 기업의 비즈니스 과제를 해결하는 것처럼 복잡하든, 생성AI가 모든 문제를 해결하는 역할을 맡을 수는 없다는 것은 분명하다.

생성AI에게 해석을 요청하지 말라. 대신, 생성AI 사용을 검토할 때 사실만을 고려하라.

AI가 편견을 해석하고 적용할 여지가 없는 영역에서 생성AI 도구를 활용하면 이 도구는 직장과 관리 애플리케이션에서 훨씬 더 효과적으로 작동할 것이다.

직장 내 생성AI 도구의 미래는 밝다. 반복적인 프롬프트 엔지니어링을 통해 기술팀은 비즈니스 파트너와 협력해 운영팀에서 작동하고 수용할 수 있는 솔루션을 설계한다. 리더들이 제안된 AI 솔루션을 ‘구매’하고 생성AI에 대한 신뢰와 수용이 커지면서 이러한 도구는 빠르게 확산될 것이다.

기술팀과 데이터 과학자들은 리더에게 기술을 구체적으로 보여주고 디지털화가 워크플로에 어떻게 적용되는지에 대한 접점을 강조하는 책임이 있다. 모든 것은 이와 같은 신화를 무너뜨리고 더 효율적인 미래를 향해 한 번에 한 걸음씩 걸어가는 리더로부터 시작된다.

*필자 레아 쿠퍼(Leah Cooper)는 세지윅(Sedgwick)의 최고 디지털 책임자다. 레아는 회사의 모든 분야와 협력해 모든 비즈니스 라인에 걸쳐 디지털 전환 전략을 개발하고 실행한다. 레아는 세지윅의 기술 R&D, 청구 조회, 접수 및 온라인 디지털 보고 기능 전용 플랫폼을 포함한 모든 고객 대면 기술도 주도하고 있다. 2022년에 레아는 주목해야 할 비즈니스 보험 여성으로 선정됐다.

(*이 칼럼은 GTT KOREA의 편집 방향과 다를 수 있습니다.)