최근 많은 기업들이 AI와 LLM(거대언어모델)을 비즈니스에 통합하는 사례가 늘어나며 AI 애플리케이션 보안의 필요성이 점점 더 중요해지고 있는 상황이다. 조직 내 구성원들이 빠른 속도로 AI 애플리케이션을 채택하고 다양한 산업 분야의 조직이 AI 기반 애플리케이션을 통해 경쟁 우위를 확보하려는 수요가 증가하고 있다.

글로벌 차세대 사이버 보안 선도 기업인 팔로알토 네트웍스(Palo Alto Networks)가 안전한 생성AI(GenAI) 활용 및 엔터프라이즈 AI 애플리케이션 개발에 요구되는 가시성, 제어, AI 특화 보호 기능을 갖춘 신규 포트폴리오 ‘시큐어 AI 바이 디자인(Secure AI by Design)’을 발표했다.

새로운 위협과 리스크에 대비할 수 있어 AI를 자산에 통합할 때 신뢰할 수 있는 기반에서 앱을 구축하고 사용할 수 있다. AI 보안 프레임워크의 무결성을 우선순위에 두고 개발에서부터 배포까지 안전하게 프로젝트를 진행하도록 돕는다.

‘시큐어 AI 바이 디자인’은 개발에서부터 배포까지 AI 보안 프레임워크의 무결성을 우선으로 하는 안전한 AI 에코시스템을 구축할 수 있다. 보안 침해 없이 AI의 잠재력을 극대화한다.

주요한 특징으로는 우선 조직 구성원들이 업무용으로 생성AI 앱을 사용하는 추세에 맞춰 ‘AI 액세스 시큐리티’를 통해 안심하고 AI 도구를 사용할 수 있는 환경을 제공한다. 보안 팀에서 완전한 가시성을 확보하고 애플리케이션 및 데이터 액세스 제어, 지속적인 데이터 위험 모니터링을 실시할 수 있다.

AI 공급망 강화로 기업에서 발생 가능한 위험을 인지하고 이에 대비할 수 있다. 프리즈마 클라우드 보안 태세 관리(Prisma Cloud AI Security Posture Management, 이하 AI-SPM)를 통해 기업은 모델, 애플리케이션, 리소스의 취약성과 잘못된 구성을 식별하여 AI 에코시스템을 보호할 수 있다. 이를 통해 규정 준수를 개선하고 데이터 노출을 최소화하여 AI 보안 프레임워크의 무결성을 향상시킨다.

엔터프라이즈 AI 애플리케이션도 보호한다. AI플리케이션, 모델, 추론 및 학습 데이터세트를 포함한 AI 앱 에코시스템의 모든 구성 요소를 파악할 수 있다. ‘AI 런타임 시큐리티(AI Runtime Security)’는 이러한 문제를 해결하고, AI 모델 및 애플리케이션의 데이터 유출과 같이 진화하는 제로데이 및 AI 관련 위협으로부터 보호하며, 오용 및 공격으로부터 모델을 보호하도록 설계됐다.

AI 애플리케이션, 모델 및 데이터를 탐색하고 보호하는 ‘AI 런타임 시큐리티(AI Runtime Security)’는 현재 구글 클라우드에서 사용할 수 있으며, 8월 말 AWS) 마이크로소프트 애저에서도 지원할 예정이다. 데이터 노출, 오남용, 모델 취약점 등 AI/ML, 생성AI 모델과 관련된 고유한 리스크로부터 조직을 보호하는 ‘AI-SPM(AI-Security Posture Management)’ 및 프롬프트에 의한 의도치 않은 데이터 유출 및 응답에 담긴 악성 콘텐츠로 인한 위험을 완화하는 ‘AI 액세스 시큐리티’는 현재 즉시 사용이 가능하다.

박상규 팔로알토 네트웍스 코리아 대표는 “생성AI는 강력한 잠재력을 지녔지만 동시에 보안에 대한 위험이 너무도 커진다. 생성AI를 사용함에 있어 강력한 보안을 고려하지 않으면 아무리 비즈니스 효율을 높여도 한순간에 모든 것을 잃을 수 있다. 팔로알토 네트웍스는 이러한 고객의 걱정을 단번에 해결할 수 있는 AI보안 솔루션 출시로 글로벌 1위 사이버 보안 기업으로 위치를 더욱 공고히 하게 되었다”고 말했다.