2024년, AI 도구의 수와 인기 증가로 인해 사이버 위협이 매우 빠르게 진화했다. 이러한 도구들은 사이버 범죄자들이 공격 전술을 정교화하고 인식하기 더 어렵게 만드는 데 도움을 주는 한편, 사이버 보안 전문가들이 더욱 효과적으로 공격에 대응할 수 있도록 지원한다.

사이버 보안 플랫폼인 노우비포(KnowBe4)는 글로벌 산업 전문가팀의 2025년 사이버 보안 예측을 발표했다.

AI 기반 사이버 방어 및 공격 도구의 개선 지속될 것

AI 기술이 발전함에 따라, 방어자와 공격자 모두 그 기능을 활용하고 있다. 사이버 보안 측면에서는 위협을 더욱 효율적으로 감지하고 대응하는 정교한 AI 기반 도구들이 개발되고 있다. 대량의 데이터를 분석하고, 이상 징후를 식별하며, 위협 감지의 정확성을 향상시키는 AI의 능력은 향후 사이버 보안팀에 막대한 도움이 될 것이다.

그러나 사이버 범죄자들 또한 더욱 고도화된 공격 방법을 만들기 위해 AI를 도입하고 있다. 감정을 조작하고 특정 취약점을 더욱 효과적으로 노리는 AI 기반 소셜 엔지니어링 캠페인은 개인이 실제 콘텐츠와 가짜 콘텐츠를 구별하기 어렵게 만들 것이다. AI 기능이 진화함에 따라 방어자와 공격자 간의 대치는 더욱 치열해지며, 지속적인 혁신과 적응이 중요해졌다.

랜섬웨어 공격은 여전히 문제로 남을 것

랜섬웨어 갱단과 초기 접근 브로커 간의 협력으로 인해 랜섬웨어 공격은 계속해서 막대한 위협이 될 것이다. 이를 대응하기 위해 AI는 비정상적인 암호화 프로세스와 같은 이상 징후를 모니터링하는 유용한 도구가 될 것이다. 이는 랜섬웨어 공격 시도의 영향을 크게 줄일 것이다.

사이버 보안의 인적 요소에 더욱 집중할 것

조직 내의 인적 위험을 관리하기 위해 빈번한 보안 인식 교육과 모의 피싱 테스트이 여전히 중요할 것이다. 동시에 사이버 범죄자들은 자신들의 소셜 엔지니어링 기술을 계속 정교화하여 공격을 더욱 개인화하고 효과적으로 만들 것이다.

앞으로의 과제는 피싱 피로도를 유발하지 않으면서 직원들의 경각심을 유지하는 것이다. 이를 방지하기 위해 조직은 직원들에게 더 적합하고 관련성 있는 교육을 만들어 긍정적인 보안 문화를 위한 더 나은 보호와 참여를 창출하는 데 중점을 두어야 한다.

딥페이크 탐지 기술 개선할 것

2025년에는 딥페이크 AI 탐지 기술이 개선되고, 더욱 접근 가능해지며, 딥페이크 식별에 대한 증가하는 우려를 더욱 효과적으로 해결할 것이다. 반면에 사이버 범죄자들도 공격에 허위 정보와 딥페이크를 활용할 것으로 예상되며, 이를 통해 강탈을 가속화하거나 다른 공격을 숨기거나 조직의 평판을 손상시킬 것이다.

제로 트러스트 마인드셋과 사이버 마인드풀니스의 채택 증가할 것

제로 트러스트 마인드셋과 사이버 마인드풀니스의 더 광범위한 채택이 이루어질 것이며, 이는 사이버 보안에 대한 선제적 접근 방식을 나타낸다. 이러한 원칙을 수용하는 조직들은 직원들 사이에 경계심 있는 태도를 장려하며, 모든 사용자와 장치를 잠재적 위협으로 취급한다. 직원들에게 건강한 수준의 의구심을 유지하도록 훈련하는 것은 그들이 비판적 사고 능력을 촉진하며, 이러한 마인드셋의 전환은 내부 위험을 완화하는 중요한 단계가 될 것이다.

미국의 규제와 허위 정보 확산될 것

미국에서 AI 기반 허위 정보 캠페인은 정치 분야에 계속 집중되며 소셜 미디어를 통해 확산될 것이다. 미국은 AI 개발, 위험 관리, 개인정보 보호 및 기타 사이버 보안 보호를 위한 규제나 법안 마련에 더욱 긴밀한 관심을 기울일 것이다.

노우비포의 CEO인 스튜 스요우어만(Stu Sjouwerman)은 “사이버 보안 환경은 급속히 진화하고 있으며, 방어자와 공격자 간의 역학 관계는 매우 복잡해졌다. 2025년에 접어들면서 전 세계 조직을 방어하고 보호하기 위해 AI의 잠재력을 수용해야 한다.”면서 “사이버 범죄의 피해자가 될 위험을 낮추기 위해 조직 내 인적 요소에 집중하는 것이 매우 중요해졌다. 가장 좋은 방어 형태 중 하나는 여전히 강력한 보안 문화를 양성하는 것”이라고 강조했다.