AI가 생활의 편리함을 더하고 있는 반면 AI로 인한 위험도 증가하고 있는 가운데 내년에는 예기치 못한 또다른 위험들이 비즈니스를 위협할 수 있어 이에 대한 대비가 필요하다.

사이버 보호 선두기업 아크로니스(지사장 고목동)는 29일 2024년 보안 위협 전망을 발표했다.

AI 진화 속 사이버 범죄도 지능화

지난 한 해 동안 AI가 크게 부상하면서 보안 위험도 증가했다. 제너레이티브 AI를 통한 딥페이크 생성에 관한 FBI 보고가 급증했다. 사이버 범죄자들은 공공의 위기, 가족 강탈, 심각한 주식 혼란 등 잘못된 정보를 통해 심각한 결과를 초래할 의도로 딥페이크 기술을 악용하고 있다. 특히 금전적 인센티브가 있는 경우, 기술이 발전하면서 더 자주 발생할 가능성이 높다.

칸디드 뷔스트(Candid Wuest) 아크로니스 사이버 보호 리서치 부사장은 “AI는 계속 진화하고 있으며, 사이버 범죄자들은 더욱 창의적으로 진화하고 있다. 일부 사이버 범죄자들은 민감한 정보를 빼내기 위해 창의적인 방법으로 AI를 사용하기 시작할 수도 있다. 피싱은 제너레이티브 AI의 '맏아들'이 되었으며, 이러한 위험은 개입 없이도 여전히 위협이 될 것으로 예상다. 2024년에는 AI를 둘러싼 새로운 규제가 대거 등장할 것으로 예상된다.”고 말했다.

멀티팩터인증 변화로 피싱 방지 MFA 기술 부상

멀티팩터인증(MFA)은 민감한 정보를 가장 잘 보호할 수 있는 검증된 방법이지만 여러 차례의 악명높은 MFA 및 소셜 엔지니어링 공격이 발생하면서 이 방식도 변하고 있다. 뷔스트 부사장은 “해커들이 시스템에 침입하여 MFA를 우회하는 방법을 찾아내면서 피싱 방지 MFA 기술이 더 널리 사용되는 방향으로 전환될 수 있다. 이 피싱 방지 MFA 프로세스를 통해 사용자는 다른 디바이스에서는 액세스할 수 없고 사용자 세션에 바인딩된 특정 토큰 또는 코드를 수신하여 로그인할 수 있다.”고 설명했다.

주스재킹 공격 증가

올해 초 애플이 USB-C 충전을 통합해 소비자 기술 기기 충전의 새로운 표준을 정립해 이제 모든 소비자가 공공 충전소를 더 쉽게 이용하게 되어 2024년에는 주스 재킹(juice jacking, 여행지 공항, 호텔, 쇼핑몰 등 공공장소의 스마트폰 충전소를 통해 멀웨어가 전파) 사례가 증가할 수 있다. 디바이스가 손상된 충전 포트에 연결되면 위협 공격자는 연결을 사용하여 사용자의 데이터를 다운로드할 수 있다.

뷔스트 부사장은 “주스재킹 공격 모델은 대규모로 확장되지 않으므로 이 문제는 억제될 수 있지만, 사용자는 취약점을 패치하기 위해 디바이스의 소프트웨어를 업데이트하는 데 주의를 기울여야 한다. 또한 소비자는 USB 충전 케이블 대신 충전 블록을 사용하거나 데이터 연결이 차단된 케이블을 사용하여 주스 잭 공격을 피할 수 있다.”고 조언한다.

높아지는 AI 의존도

언어 모델과 서비스형 AI 비서를 제공하는 다양한 서비스가 등장하면서 AI는 모든 애플리케이션에서 표준으로 자리 잡았다. 가이다르 마그다누로프(Gaidar Magdanurov) 사장은 “애플리케이션의 표준 기능으로 AI에 대한 의존도가 높아질 수 있다. 내년에는 AI 비서에 대한 사람들의 지나친 의존으로 인해 발견하기 어려운 실수가 더 많이 발생하여 예기치 못한 결과를 초래할 수 있다. AI 어시스턴트에게 업무를 아웃소싱하는 분석가들이 업무의 질을 높이기 위해 더 나은 교육과 직원을 확보하는 것이 더욱 중요해질 것이다. AI 어시스턴트를 적용하는 조직뿐만 아니라 AI 교육과 기술 개발을 우선시하고 강조하는 조직은 이 기술의 진정한 이점을 보게 될 것이다.” 설명했다.

포괄적 사이버 보호 부상

사이버 보안과 백업의 통합은 사이버 방어의 필수 요소가 되어 포괄적인 사이버 보호(cyber protection)가 계속 중요해질 전망이다. 마그다로프 사장은 “AI와 자동화의 광범위한 사용을 고려할 때, AI를 통해 맞춤화된 대규모 공격을 피하기 위해 더욱 다층적인 방어 전술이 표준이 될 것으로 예상된다. 여기에는 취약성 평가 및 패치 관리를 통한 예방, 엔드포인트 탐지 및 대응 솔루션을 통한 탐지, 백업 복구를 포함한 치료, 백업 데이터를 사용한 포렌식 등 다양한 조치를 통합하는 것이 포함된다.”고 말했다.

애플리케이션 API 취약점 주의

그는 또한 플랫폼에 적합하도록 애플리케이션이 지속적으로 진화할 것이라고 했다. 이는 소비자 및 기업 고객은 통합 애플리케이션의 원활한 경험에 익숙해지면서 공급업체가 고객이 사용하는 다른 애플리케이션과 더 잘 통합하도록 요구하고 있기 때문이다. 통합 플랫폼이 증가하면서 API 노출이 급증할 것으로 보인다. 이러한 플랫폼을 통해 공급업체는 낮은 추가 비용으로 고객에게 추가 기능을 제공할 수 있고, 특수 애플리케이션 공급업체는 플랫폼 공급업체의 고객 기반에 즉시 액세스할 수 있다고 주의를 당부했다.