1949년, 에드먼드 칼리스 버클리는 그의  저서 'Giant Brains, or Machines That Think'에서 생각하는 기계가 세상을 바꿀 미래를 상상했다. 그의 예언은 현실이 되었지만, AI 발전이 불러온 질문은 여전히 남아있다. 최근 과학기술일보에서 "진심이 담긴 기술, 세상을 바꾸는 AI"라는 주제로 개최한 패널 토론회에서는 AI가 어떻게 삶에 힘을 실어주고 인간의 한계를 극복하는지, 하지만 AI를 통제하기 위한 보호 장치가 필요한지에 대해 논의했다. 이에 대한 전문가들의 의견을 들어본다.

AI의 영향과 잠재력

중국 과학 아카데미 자동화 연구소 교수, 유엔 AI 고위 자문 기구 전문가 정 이(Zeng Yi)는 AI 기술이 인간을 반복적이고 위험한 작업에서 해방시키는 도구라고 강조했다. 그는 AI와 로봇공학이 결합하여 소방, 재난 구호, 우주 탐사와 같은 분야에서 혁신을 이루고 있다고 설명했다. 특히 AI 기반 로봇이 달 탐사에서 복잡한 작업을 수행하며 인간 과학자들이 위험을 감수하지 않도록 돕고 있다고 덧붙였다.

또한, AI는 산업뿐만 아니라 환경 보호와 야생 동물 추적과 같은 분야에서도 큰 영향을 미치고 있다.

베이징대 법학및 인공지능 연구센터 전문가 가오 샤올린(Gao Shaolin)은 AI가 일상생활을 어떻게 바꾸는지에 대해 설명하며, 최근 자신이 경험한 3000km의 무사고 운전 사례를 언급했다. 그는 AI 기반 안전 기능, 자율주행 기술, 트럭의 피로 모니터링 시스템 등이 교통사고 위험을 줄이는 데 기여하고 있다고 강조했다.

책임 있는 AI 개발의 중요성

정 교수는 혁신가들이 AI의 잠재적 위험을 예견하고 이를 해결하기 위해 노력해야 한다고 촉구했다. 그는 AI가 단순히 독립적인 법적 실체가 아니라 도구라는 점을 상기시키며, 그 행동에 대한 책임은 개발자와 서비스 제공자, 사용자에게 있다고 강조했다.

가오 역시 "AI는 필요한 만큼 지능적이어야 하지만, 인간의 통제 하에 있어야 한다"고 강조했다. 그는 AI가 인간의 경쟁자가 아니라 협력자가 되어야 한다고 덧붙였다.

중국과학원 산하 과학기술협회 사무부총장 우바오쥔(Wu Baojun)은 AI가 윤리적 틀 내에서 안전하고 신뢰할 수 있도록 발전해야 한다고 주장했다. 그는 AI 연구가 인간의 두려움을 줄이고, 신뢰성을 높이며, 인간 중심적인 방향으로 나아가야 한다고 말했다.

글로벌 AI 규제와 중국의 역할

중국은 AI 개발에 있어 기술 혁신과 윤리적 고려를 조화롭게 유지하려는 노력을 보여주고 있다. 2017년 차세대 인공지능 개발 계획과 2019년의 베이징 AI 원칙은 AI의 법적, 윤리적 문제를 해결하려는 중국의 의지를 반영한다.

정 교수는 중국의 AI 전략이 경제 성장을 넘어 인류 전체에 긍정적인 영향을 미치기 위한 목표를 가지고 있다고 설명했다. 이러한 접근법은 2024년 유엔 총회에서 중국이 제안하고 140개국이 공동 발의한 결의안 채택으로 더욱 강화되었다. 결의안은 인간 중심의 AI 개발과 국제 협력을 강조하며, AI를 인류에게 이로운 방향으로 이끌고자 한다.

글로벌 협력과 AI 윤리

AI 거버넌스는 전 세계적으로 공통된 우선순위로 자리 잡고 있다. 정 교수는 국가 간 AI 윤리 원칙이 95% 이상 일치한다고 말하며, 인간 중심 개발, 투명성, 공정성, 안전, 개인 정보 보호가 주요 가치로 꼽힌다고 밝혔다.

2023년에는 28개국과 유럽연합이 AI 안전을 위한 블레츨리 선언에 서명했으며, 2024년 유네스코의 AI 윤리 권고안이 모든 회원국에서 만장일치로 채택되었다. 이는 글로벌 합의의 사례로, AI가 책임감 있고 포용적으로 개발되도록 보장하려는 국제 사회의 노력을 보여준다.

전문가들은 AI가 인간의 역량을 증폭시키는 협력자로 자리 잡아야 한다는 점에 의견을 모았다. AI는 반복적이고 위험한 작업을 대신하면서 인간이 창의적이고 의미 있는 활동에 집중할 수 있는 여지를 마련한다. 하지만 AI의 책임 있는 개발과 글로벌 협력을 통한 윤리적 거버넌스가 반드시 수반되어야 한다는 점도 강조된다.

AI는 단지 기술적 진보의 상징이 아니라, 인류의 미래를 향한 책임 있는 도구로서 자리 잡아야 한다.