급속한 기술 발전과 사회 변화 속에서 ‘AI’는 글로벌 대화의 최전선에 확고히 자리잡고 있다. LLM(대형 언어 모델)이 확산됨에 따라 보안 및 개인정보 보호에 대한 우려가 급증하면서 AI가 사이버 보안과 직접적으로 연결되고 있다.

카스퍼스키의 연구진의 분석은 AI 도구가 2023년 사이버 범죄자의 악의적 활동에 어떻게 도움이 되었는지 분석하는 동시에 이 기술의 방어 응용 가능성도 보여주고 있다.

더 복잡한 취약점 출현

지침을 따르는 LLM이 더 많은 소비자 제품에 통합됨에 따라 확률적 생성AI와 전통적인 결정론적 기술의 교차점에서 새롭고 복잡한 취약점이 나타날 것이다. 이를 해결하기 위해서는 개발자들이 LLM 에이전트가 시작한 작업에 대한 사용자 승인과 같은 새로운 보안 조치를 연구해야 한다.

사이버 보안 전문가를 위한 AI 어시스턴트

레드팀 구성원들과 연구원은 혁신적인 사이버 보안 도구를 위해 생성AI를 활용하고 LLM 또는 머신러닝을 사용하는 어시스턴트로 연결될 수 있다. 이 도구는 테스트 환경에서 실행된 명령에 기반한 지침을 제공해 레드팀 작업을 자동화할 수 있다.

사기에 대한 시각적 정보 생성 위한 신경망 활용 증가

2024년에는 사이버 범죄자들이 신경망을 사용해 전술을 강화하고 AI 도구를 활용해 더욱 설득력 있는 사기 콘텐츠를 만들 수 있다. 설득력 있는 이미지와 비디오를 쉽게 생성할 수 있는 능력을 갖춘 악의적인 행위자들로 인한 사기 및 사이버 위협이 확대될 위험이 커지고 있다.

AI는 새로운 위협 환경에 획기적인 변화를 주도하지 못할 것

이러한 추세에도 불구하고 카스퍼스키 전문가들은 AI가 위협 환경을 크게 변화시킬 것이라는 기대에 대해 회의적이다. 사이버 범죄자들이 생성AI를 활용하는 한편, 사이버 방어자들도 소프트웨어와 네트워크의 보안 강화를 테스트하기 위해 동일하거나 훨씬 더 발전된 도구를 사용할 것이므로 공격 환경을 크게 바꿀 가능성은 없다는 것이다.

더 많은 AI 관련 규제 이니셔티브

기술이 빠르게 발전함에 따라 정책 결정과 규제의 문제가 대두되고 있다. AI 관련 규제 이니셔티브의 수가 증가할 것으로 예상된다. AI 개발과 활용에 대한 전문 지식을 갖춘 기술 업체들은 AI 규제에 대한 논의에 중요한 통찰력을 제공할 수 있다.

AI 생성 콘텐츠용 워터마크

합성 콘텐츠를 표시하거나 파악하려면 더 많은 규정과 서비스 제공 업체 정책이 필요하며, 탐지 기술에 계속 투자해야 한다. 개발자와 연구자들은 더 쉽게 파악하고 출처를 확인할 수 있도록 합성 미디어에 워터마킹을 적용하는 방법을 개발할 것이다.

카스퍼스키의 전문가는 사이버 보안에서 AI는 양날의 칼이라고 말한다. AI의 적응형 기능은 진화하는 위협에 대한 선제적인 방어막을 제공해 방어력을 강화하지만, 공격자가 AI를 활용해 더 정교한 공격을 수행하므로 위험도 초래하기 때문이다.

따라서 민감한 데이터를 과도하게 공유하지 않고 책임 있게 사용하면서 적절한 균형을 맞추는 것이 가장 중요하다고 강조한다.

[알림] GTT KOREA의 동영상 마케팅 플랫폼 GTT SHOW는 오는 12월 14일 목요일 오후 2시부터 오후 3시까지 “기업의 데이터 중심 성과향상과 의사결정 효율 높이는 '전사 기업성과관리' 전략”을 주제로 무료 온라인 세미나를 진행한다. 기업의 다양한 성과 지표의 측정과 분석, 경영계획, 이동계획, 차이 및 변수 별 분석 등 경영 의사결정을 돕고 경쟁력을 강화하는 기업성과관리(CPM) 솔루션 및 ERP와 함께 운용했을 때의 장점과 실제 도입 사례를 통해 전사 CPM과 경영계획 프로세스를 개선하는 전략과 활용법이 소개된다.