높아지는 에이전틱 AI 비서의 위협

에이전틱 AI는 시리(Apple Siri), 제미나이(Google Gemini), 코파일럿(Microsoft Copilot), 챗GPT 등과 같은 다양한 플랫폼에서 보편화되고 있다. 이들은 사용자의 음성 및 입력 명령을 기반으로 작업을 수행하며, 높은 권한의 런타임 접근 기능을 바탕으로 화면 콘텐츠, 사용자 활동, 앱 데이터 등을 실시간으로 처리할 수 있다.

그러나 이러한 특성이 공격자에게는 데이터 수집, 세션 하이재킹, 계정 탈취 등의 공격 루트를 제공하는 수단이 되기도 한다. 안드로이드 환경에서는 API 접근 권한이 상대적으로 자유로워 위험이 크며, iOS 환경에서도 에어플레이(AirPlay)와 같은 기능을 통한 화면 미러링 유출이 우려된다. 특히 비공식 복제 앱이나 래핑된 버전의 생성AI 비서는 사용자 인증 정보를 탈취하거나 민감한 앱 기능을 재실행하는 등의 악성 행위를 수행할 수 있다.

자격 증명을 접근, 추출 또는 입력하고, 트랜잭션을 가로채고, 다른 사용자에게 메시지를 보낼 수 있으며, 기업 환경에서 악성 AI 비서는 직원으로서 행동해 독점 시스템에 접근하고, 민감한 문서를 유출하거나, 측면 침해를 위한 진입점을 만들 수 있다.

래핑되거나 리스킨된 AI 앱, 특히 챗GPT와 같은 도구의 비공식 또는 타사 클론은 공격 표면을 더욱 증가시키며, 종종 위험한(과도한) 권한을 요청하고 캡처된 데이터를 외부 서버로 조용히 전송한다. 이때, 실시간 탐지 및 제어가 없으면 모바일 브랜드는 대규모 감시, 규정 준수 실패 및 데이터 손실에 노출된 상태로 남게 된다.

특히, 악성 AI 비서는 이러한 접근 권한을 악용해 데이터 수집, 세션 하이재킹 및 계정 탈취를 수행할 수 있으며, 종종 합법적인 AI 기능으로 가장하기도 한다. 안드로이드에서는 이러한 위험이 더욱 관대한 API로 인해 증폭된다. iOS에서는 위협이 미러링 기반 유출(예: AirPlay를 통한) 및 기업 대상 감시로 확장된다.

그렇기에 뱅킹, e-지갑, 헬스케어 애플리케이션과 같은 소비자 사용 사례에서 일부 브랜드는 현재로서는 위험이 이점보다 크며, 모바일에서 민감한 데이터나 규제 대상 사용 사례를 가지고 있다면, AI 비서는 더 이상 가설적인 위험이 아니라 실제적인 위험이다. 따라서, 이러한 도구의 사용을 탐지하고 제어하는 것은 모든 모바일 방어 전략에 필수다.

모바일 애플리케이션 보안 솔루션 기업 앱돔(Appdome, CEO 톰 토바르)이 안드로이드 및 iOS 기기와 애플리케이션을 제어하는 에이전틱 AI 악성코드 및 승인되지 않은 AI 비서를 탐지하고 방어하기 위한 동적 방어 플러그인 ‘에이전틱 AI 악성코드 탐지(Detect Agentic AI Malware)’을 출시했다.

실시간 탐지와 사용자 제어 기능 제공

이 플러그인은 모바일 앱이 AI 비서와 상호작용하는 시점을 식별하고, 이들이 거래, 계정, 민감한 기업 데이터에 접근하지 못하도록 차단한다. 특히 이 기술은 기존 모바일 앱 환경에서의 감시 및 데이터 유출 위험을 사전에 차단하는 데 중점을 둔다.

특히 행동 생체 인식 기반 기술을 통해 AI 비서가 앱과 상호작용하는 방식을 실시간으로 분석해 신뢰되지 않은 타사 또는 래핑된 생성AI 앱이 고의적으로 사용자를 속이거나 앱 내 기능을 악용하는 행위를 탐지하고 차단한다. 기업은 이 기능을 통해 AI 비서의 접근을 제어하고, 합법적으로 허용된 AI 도구만을 허용하는 정책을 수립할 수 있다.

이 기술은 금융, 전자지갑, 의료 등 규제 대상 앱에서 민감 데이터를 보호하기 위한 주요 방어 수단으로 평가된다. 기업은 앱돔 플랫폼을 통해 평가, 시행, 차단 등 다양한 옵션을 설정하여 AI 기반 공격을 사전에 억제할 수 있으며, 신뢰할 수 있는 AI 도구를 명시적으로 등록하는 방식으로 보안 수준을 강화할 수 있다.

또한 모바일 브랜드 및 기업은 앱돔을 사용해 AI 비서 사용을 모니터링하거나 여러 평가, 적용 및 완화 옵션을 사용해 에이전트 AI 비서에 대해 탐지 및 방어할 수 있으며, 사용자가 승인되고 합법적인 에이전틱 AI 비서에 접근할 수 있도록 신뢰할 수 있는 AI 비서의 수를 지정할 수도 있다.

앱돔의 공동 창립자이자 CEO인 톰 토바르(Tom Tovar)는 “모바일 브랜드 및 기업은 모바일 기기에서 에이전틱 AI 비서의 위험을 빠르게 인식하고 있다.”라며, “우리의 새로운 '에이전틱 AI 악성코드 탐지' 플러그인은 모바일 브랜드 및 기업에 AI 비서 기능을 사용자에게 언제 어떻게 도입할지에 대한 선택권과 통제권을 제공한다.”라고 말했다.

모바일 보안은 이제 단순한 바이러스 차단을 넘어, 앱의 실시간 상호작용과 행위를 식별해내는 고차원적 기술로 진화하고 있다. 앱돔의 에이전틱 AI 맬웨어 탐지 기술은 사용자와 브랜드를 보호하는 실질적 수단으로 작용하며, 향후 모든 모바일 애플리케이션에서 필수적인 보안 요소로 자리잡을 것으로 전망된다. AI가 사용자 경험을 향상시키는 도구로 환영받는 한편, 그 그림자에는 반드시 실시간 탐지와 제어 기술이 병행되어야 한다.