인공지능(AI)은 다양한 분야에서 혁신을 일으키며 우리 삶을 변화시키고 있다. 그러나 그 발전 속도와 함께 예상치 못한 부작용도 증가하고 있다. 특히 생성AI 기술을 악용한 사이버범죄, 허위 정보 확산, 디지털 사기가 전 세계적으로 심각한 위협이 되고 있다.

세계경제포럼의 ‘2024년 글로벌 위험 보고서’는 허위 정보와 잘못된 정보를 주요 글로벌 위험 요소로 지목했다. 이러한 위협이 심화됨에 따라 사회 전반에서는 AI 오용 문제를 해결하기 위한 실질적인 대응책 마련이 시급한 상황이다.

오픈소스 인텔리전스(OSINT) 솔루션 분야의 글로벌 리더인 소셜 링스(Social Links)가 사이버범죄와 허위 정보, 디지털 사기와 같은 AI 기반 위협을 무력화하고 이를 예방하기 위한 ‘다크사이드 AI(Darkside AI)’ 이니셔티브를 공식 발표했다. 소셜 링스는 기업, 연구자, 정책 입안자, 전문가들이 협력해 보다 안전한 디지털 환경을 구축할 것을 제안했다.

이번 발표는 AI 기반 위협이 급증하는 중요한 시기에 이루어졌다. 딥페이크 탐지와 분석 분야의 글로벌 기업 센서티AI(Sensity AI)가 발표한 보고서에 따르면 최근 딥페이크 영상은 2021년부터 2023년 사이에 550% 증가해 전 세계적으로 9만 5000개를 넘어섰다.

보고서는 딥페이크 영상의 급증과 이로 인한 디지털 사기 및 허위 정보 문제의 심각성을 경고했다. AI를 이용한 디지털 사기 피해 규모는 2023년 123억 달러에서 2027년 400억 달러로 증가할 것으로 예상된다.

이러한 상황에서 다크사이드 AI 이니셔티브는 단순히 문제를 진단하는 데 그치지 않고 실질적인 해결 방안을 제시하며 기업과 기관이 AI 악용에 효과적으로 대응할 수 있도록 돕고자 한다.

AI 악용 방지 솔루션, 다크사이드 AI의 주요 전략

다크사이드 AI 이니셔티브는 AI 기술이 악의적인 목적으로 사용되는 것을 방지하기 위한 실질적인 해결 방안을 제시한다. 소셜 링스는 이번 프로젝트에서 다섯 가지 주요 전략을 중심으로 솔루션을 개발하고 이를 확산할 계획이다.

첫째, 합성 신원과 딥페이크 탐지를 위한 기술 개발이다. 소셜 링스는 AI 기반 기술을 이용해 합성 신원 생성, 딥페이크, 허위 정보를 탐지하고 무력화하는 솔루션을 구축하고 있다. 이를 통해 기업과 기관은 AI 오용으로부터 보다 안전하게 보호받을 수 있다.

둘째, 글로벌 협력 네트워크 구축이다. 국제기구, 연구기관, 민간기업과 협력해 AI 기반 위협을 대응할 수 있는 글로벌 표준과 모델을 수립하는 것이 목표다. 이를 통해 전 세계적인 협력 체계를 형성하고 AI 위협에 보다 체계적으로 대처할 수 있게 된다.

셋째, 대중 인식 제고와 교육 프로그램 운영이다. AI 오용의 위험성을 알리고 이를 방지할 수 있는 교육 자료와 연구 결과를 발표함으로써 기업과 일반 대중이 AI 위협에 대한 이해도를 높일 수 있도록 지원한다.

넷째, 연구 및 데이터 수집 강화다. 악의적인 행위자의 활동 패턴을 밝히고 새로운 유형의 위협을 예측하기 위해 데이터 통찰력을 강화할 계획이다. 이를 통해 AI 기반 범죄를 사전에 차단하고 예방할 수 있다.

마지막으로, 산업 표준과 윤리적 지침 마련이다. 소셜링스는 AI 기술의 윤리적 사용을 위한 명확한 정책과 프레임워크를 개발해 기업들이 투명하고 책임 있는 방식으로 AI 기술을 활용할 수 있도록 돕는다.

사이버 보안과 정보 신뢰성 강화

다크사이드 AI 이니셔티브는 산업 전반에 걸쳐 사이버 보안과 정보 신뢰성을 강화하는 데 크게 기여할 것으로 보인다. 기업과 공공기관은 이 이니셔티브를 통해 AI 기반 위협에 대한 대응력을 높일 수 있으며, 궁극적으로 정보의 신뢰성을 확보할 수 있다. 나아가 디지털 생태계의 안전성을 향상시켜 AI 기술이 사회적 신뢰를 회복하는 데 중요한 역할을 할 것이다.

소셜 링스의 이니셔티브를 이끄는 CEO 이반 슈크바룬은 이번 프로젝트의 중요성을 강조하며 다음과 같이 말했다. “AI 기술은 산업에 혁신을 가져왔지만, 그 오용은 우리가 반드시 해결해야 할 과제입니다. 다크사이드 AI는 AI가 선의의 힘으로 작용할 수 있도록 구체적이고 실질적인 솔루션을 제공하는 이니셔티브입니다. 다양한 이해관계자가 협력할 때 비로소 이러한 문제를 해결할 수 있을 것입니다.”

앞으로 소셜 링스는 기술 개발과 연구를 지속하며, 글로벌 파트너십을 더욱 확장할 계획이다. AI 오용 방지를 위한 실질적인 솔루션을 개발하는 동시에, 관련 정책과 교육을 통해 안전하고 윤리적인 AI 활용을 촉진하고자 한다. 다크사이드 AI 이니셔티브는 단순한 기술 혁신을 넘어 디지털 신뢰와 협력을 바탕으로 AI 중심의 미래를 보다 안전하게 만들어 나가는 중요한 출발점이 될 것이다.