생성AI 보안 기업인 제로트러스티드.ai(ZeroTrusted.ai)는 LLM(대형 언어 모델)과 관련된 보안과 개인정보 보호 문제를 포괄적으로 해결할 안티 AI 도구를 출시했다. 이 도구는 주입 공격, 환각, 규정 준수 위반, 표절, 저작권 위반 및 기타 취약점에 대한 보호 기능을 제공한다.

새로 출시된 제로트러스티드.ai 안티 AI 도구는 고급 알고리듬을 활용해 문제를 자동으로 식별하고 완화한다.

이 제품은 개인정보 보호를 위해 LLM을 활용할 때 신속한 익명성을 유지한다. 또한 PII(개인 식별 정보)와 PCI(지불 카드 산업) 데이터 등 민감한 데이터와 규정 위반 사례를 확인하고 데이터를 적절하게 삭제해 문제를 해결한다.

LLM에서 생성된 콘텐츠가 원본이고 지적 재산권을 존중하는지 확인하며, 프롬프트를 최적화하고 결과를 검증해 정확성을 높인다.

환각 방지를 위해 LLM 출력이 조작되지 않았는지 확인하고, 모델 취약점을 악용하도록 설계된 악의적인 입력으로부터 보호한다.

신속한 주입, 데이터 중독과 편향 등 LLM 결과물의 무결성과 공정성을 손상시키는 문제를 해결할 뿐만 아니라 모델을 속이거나 기밀 정보를 추출하려는 시도에 대한 방어를 강화한다.

사용자 프롬프트와 독점 LLM 간에 교환되는 데이터에 대해 엔드투엔드 암호화를 구현해 개인정보를 유지하고, 안전하지 않은 코드와 모델 도난을 막기 위해 독점 모델 코드 및 지적 재산에 대한 무단 액세스를 방지한다.

제로트러스티드.ai의 가드레일 도구는 기술, 금융, 의료, 정부 등 다양한 부문에 걸쳐 LLM을 구축하는 조직들이 AI 애플리케이션의 신뢰성을 높일 수 있도록 중요한 보안 계층을 제공한다.

[알림] GTT KOREA와 월터스클루어는 오는 3월 5일(화) 오후 2시부터 3시까지 “기업의 수익성을 증대하는 ‘전사 기업성과관리(CPM)’ 플랫폼 활용 전략”을 주제로 무료 온라인 세미나를 개최한다. 급변하는 글로벌 비즈니스 환경에서 기업 고객들에게 AI 활용 고급 분석 기능이 적용돼 재무계획을 넘어 판매, 공급망, HR 등 운영 조직까지 확대해 최적의 전사적 경영계획 및 예측 정보를 제공하는 ‘확장경영계획 및 분석’도 가능한 기업성과관리 플랫폼 ‘CCH 타게틱’을 통한 기업의 수익 극대화 방안을 단계별, 사례별로 알아본다.