최근 다양한 신기술이 접목된 AI 활용이 사회전반에 빠르게 확산되고 있다. 긍정적인 측면에서는 의료, 교육, 금융 등 다양한 분야에서 효율성과 정확성을 높여 혁신을 촉진하고, 개인화된 서비스 제공을 통해 삶의 질을 향상시키고 있다. 기업은 AI를 통해 생산성을 높이고 경쟁력을 강화할 수 있다.

반면, 자동화로 인한 일자리 감소, 개인정보 침해, AI의 편향성에 따른 차별 및 불평등 심화가 있다. 또한, AI 시스템의 오작동이나 오판이 심각한 사회적, 경제적 피해를 초래할 수 있으며, 기술적 의존이 심화되면 인간의 통제력이 약화될 우려가 높아지고 있다.

AI 기반 사이버 보안 솔루션의 선두 제공업체인 제로트러스티드 에이아이(ZeroTrusted.ai)는 AI가 치명적인 결과를 초래할 수 있는 “인공지능(AI)에 의한 사망의 10가지 방법”에 대한 보고서를 발표했다. 이 보고서는 최첨단 AI 기술을 사용하여 생성되었으며, AI 기술의 급속한 발전과 관련된 잠재적인 위험성을 강조하고 있다.

AI로 인한 상위 10대 사망 가능성

① 자율 무기 : AI로 제어되는 드론이나 로봇 시스템이 오작동하거나 해킹되어 의도치 않은 사상자나 표적 공격을 초래할 수 있다. 또는 AI가 제대로 작동해서 당신이 목표가 될 수도 있다.

② 자율주행 차량 : 자율주행 차량에서 AI 오류가 발생하여 도로 조건을 잘못 해석하거나 시스템 장애로 치명적인 사고를 초래할 수 있다. 혹은 당신의 전 연인이 당신을 통과해야 하는 경로를 지도에 추가했을 수도 있다. 게다가 AI가 당신의 사진을 지도에 업데이트해 당신이 도로 일부임을 확실히 인식하게 했을 수도 있다. AI 엔지니어와 데이트하지 않거나, 데이트할 때는 화나게 하지 않는 것이 좋다.

③ 의료 AI 오류 : 의료 분야에서 사용되는 AI 시스템이 잘못된 진단이나 치료 권고를 하여 치명적인 의료 오류를 초래할 수 있다. 또는 특정인을 위해 자연스럽게 보이는 사망 원인으로 진단하도록 학습되었을 수도 있다. 그리고 기록에는 자연사로 남을 수도 있다.

④ AI 제어 인프라 : AI가 전력망이나 수도 공급망 같은 중요한 인프라를 관리하는데 실패하거나 악용되어 대규모 재난을 초래할 수 있다. 즉, AI 기술이 발전하면서 사람들을 대체하거나 지원하는 방식이 잘못되면, 그로 인해 오히려 부정적인 결과가 발생할 수 있다.

⑤ AI 기반 사이버 공격 : 정교한 AI는 병원이나 응급 서비스 같은 필수 시스템에 사이버 공격을 가하여 인명 피해를 초래할 수 있다. 혹은 당신의 10살 아이가 당신이 새 비디오 게임을 사주지 않아서, AI를 이용해 당신의 심장박동기를 해킹할 수도 있다.

⑥ 군사 방어 시스템에서의 AI : AI가 위협을 잘못 식별하여 자동 군사 대응을 촉발하여 대규모 분쟁이나 우발적인 사망을 초래할 수 있다. 혹은 AI가 시뮬레이션을 통해 당신의 위치가 취약하다고 판단하고, 이 취약점을 없애기 위해 방어를 강화하는 결정을 내릴 수도 있다.

⑦ 항공에서의 AI : 항공기나 항공 교통을 제어하는 AI 시스템의 오작동이 대형 사고로 이어질 수 있다. 또는 AI가 조종사에게 정상적인 정보를 제공하면서도 비행기를 목표물로 자동 조종할 수 있으며, 당신은 그 무료 업그레이드를 받고 우연히 탑승했을 수 있다.

⑧ 사회적 조작 : AI가 잘못된 정보나 심리적 조작에 사용되어 개인이 해를 입거나 사회적 붕괴를 일으켜 폭력이나 사망을 초래할 수 있다. 혹은 AI가 당신에게 더 큰 코를 비밀리에 부여하여, 결국 숨을 쉴 수 없을 때까지 AI 성형외과 의사를 찾게 만들 수도 있다.

⑨ 금융 시스템에서의 AI : 금융 시장에서 AI 오류가 경제 붕괴를 초래하여 광범위한 빈곤과 절망을 불러오고, 치명적인 결과를 초래할 수 있다. 또는 어두운 웹에서의 결제가 AI에 의해 보류되었지만 배송은 진행되어, 지불받지 못한 방문객들이 당신의 위치로 찾아올 수도 있다.

⑩ AI에 대한 인간의 과도한 의존 : 높은 위험 시나리오(예: 의료 선별, 재난 대응)에서 의사 결정을 위해 AI에 과도하게 의존할 경우, AI가 실수하고 인간의 감독이 부족할 경우 치명적인 결과를 초래할 수 있다. 혹은 AI가 너무 발전해서 누군가가 다치거나 죽었을 때 아무도 아무런 행동을 하지 않거나 반응하지 않게 될 수도 있다. 아니면 어쩌면 우리는 이미 이 상황에 처했을지도 모른다.

이처럼 AI의 오작동이나 해킹으로 자율 무기, 자율주행 차량, 의료 시스템 등이 잘못 작동하면 인명 및 막대한 경제적 피해가 발생할 수 있다. 특히 군사, 금융, 사회적 조작 등에서의 AI 오류는 대규모 재앙으로 이어질 수 있으며, AI에 대한 과도한 의존은 치명적인 실수를 초래할 수 있다.

우리가 AI를 통제할 것인가, 아니면 AI가 우리를 통제할 것인가. 어쩌면 AI가 이미 우리를 통제하고 있을지도 모른다. 하지만 AI가 잘 작동하고 있다면 우리는 그 사실조차 알지 못할 수도 있다.

때문에 AI 시스템에 대한 철저한 안전성 검증과 규제 강화가 필요하다. 인간의 지속적인 모니터링과 통제를 유지하며, AI 시스템의 보안을 강화해 해킹 위험을 줄여야 한다. 또한, AI를 통한 의사 결정이 신뢰할 수 있도록 윤리적 기준을 설정하고, 다중 안전 장치를 통해 오작동 시 즉각적인 대응이 가능하도록 해야 한다.

제로트러스티드 에이아이의 CEO 웨일론 크러쉬(Waylon Krush)는 "AI는 엄청난 가능성을 제공하지만, 그 가능성과 함께 큰 위험도 따른다,"라며, "제로트러스티드 에이아이의 목표는 이러한 강력한 시스템을 구동하는 데이터를 보호해 AI를 안전하고 신뢰할 수 있게 만드는 것이다. 자율 무기의 오작동을 방지하거나 AI 기반 의료 진단이 정확하게 이루어지도록 보장하는 것이든, 우리의 솔루션은 생명을 위협하는 실수를 방지하기 위해 견고한 보호 기능을 제공한다."고 말했다.