챗GPT가 다양한 산업에 활용되면서 보안성을 높이는 분야에서도 활약하고 있다. 챗GPT가 연계된 생성 AI, 설명 가능한 AI 등 인공지능(AI) 기술 기반의 온라인 AI 탐지 모델 서비스가 선보여 주목을 끌고 있다.

시큐리티·인텔리전스 기업 이글루코퍼레이션(대표 이득춘)은 AI가 판단한 공격 결과에 대한 신뢰성과 이해도를 높이는 ‘이글루XAI(IGLOOXAI)’(가칭) 서비스를 개발 완료했다고 밝혔다. AI 모델 확대 적용 및 개선 과정을 거쳐, 4월 초 시범 서비스를 오픈할 예정이다.

이글루XAI는 특정 보안 데이터에 대해 AI 모델이 판단한 근거를 알려주는 온라인 서비스다. AI가 어떤 기준에 따라 특정 행위를 이상·정상으로 탐지했는지를 알려주는 ‘설명 가능한 AI(XAI, eXplainable AI)’ 기술과 기존 콘텐츠에 대한 학습을 토대로 새로운 콘텐츠를 만들어내는 ‘생성형 AI(Generative AI)’ 기술이 적용돼 있다. 사용자들은 AI 모델이 특정한 예측을 내린 기준 확인을 통해 AI 답변의 신뢰도를 평가하고, 자연어 형태의 설명을 바탕으로 AI 답변에 대한 이해도를 높일 수 있다.

보안 담당자들은 이글루XAI를 활용해 AI 탐지 모델의 판단 근거와 빅데이터 분석 결과, 자연어 형태의 답변을 비교 확인해 보안 조직의 분석 역량을 상향 평준화할 수 있다. 사용자가 공격 유무를 판단하고자 하는 페이로드(payload)를 입력하면 AI 탐지 모델이 예측한 결과와 이 예측에 영향을 미친 공격 특징(feature)의 중요도, 빅데이터 기반 분석 결과가 제공된다. 챗GPT(ChatGPT)를 통한 대화형 분석 옵션도 선택할 수 있다.

이글루코퍼레이션은 더 많은 보안 조직이 이글루XAI를 활용할 수 있도록, 서비스 모델을 다양화할 계획이다. 설치 및 개발 부담이 없는 온라인 웹페이지·응용 프로그램 인터페이스(API) 형태로 서비스를 제공하고, 현재 적용된 보안 이벤트 분류 모델에 이어 엔드 포인트 및 행위 기반 모델을 추가할 예정이다. 또 예측 결과에 대한 보안 전문가의 피드백 적용을 통해 모델 신뢰도를 꾸준히 높일 방침이다.

이번 신규 서비스 출시를 계기로 이클루코퍼레이션은 기존 확보한 AI 기반 탐지 기술 및 XAI 기술에 생성형 AI 기능을 접목하며, AI 사업 포트폴리오를 확대할 계획이다. 챗GPT 모델에서 더 나아가 여러 생성형 AI 모델 연계를 통해 고객 선택 폭을 넓히고, 중장기적 관점에서 보안에 최적화한 이글루코퍼레이션 고유의 생성형 AI 모델도 적용할 전략이다. 이와함께 정상적인 AI 서비스를 악용한 우회 및 적대적 공격에 맞서, 현재 진행 중인 AI 방어 기술 및 방법론 연구도 가속화할 방침이다.

이득춘 이글루코퍼레이션 대표는 “이글루코퍼레이션은 다년간 보안, 빅데이터, 데이터 마이닝, AI 등 여러 분야의 전문가로 구성된 AI 조직을 운영하며 AI 탐지 모델의 신뢰성과 정확성을 높이는 데 공을 들여왔다”며 “검증된 고유의 AI 기술력에 생성형 AI 기술을 적용해 더 많은 조직이 AI의 혜택을 누릴 수 있도록 지원하겠다”고 말했다.