전 세계 8000만 이상의 이용자를 보유한 소셜 디스커버리 앱인 유보(Yubo)가 다이렉트 메시지(DM)에서 유해한 콘텐츠를 자동으로 차단하는 AI 기반 도구인 ‘세이프블러(SafeBlur)’를 출시했다. 이 도구는 AI를 활용해 1:1 대화에서 콘텐츠 조정을 위한 안전 설계 솔루션을 개발함으로써, 소셜 플랫폼의 이용자 안전과 개인정보 보호 문제를 해결할 수 있다.

현재 미국, 캐나다, 영국, 호주에서 이용 가능한 세이프블러는 이용자 보고 기능을 탑재했다. 이를 통해 이용자들은 유보 커뮤니티 가이드라인 위반 사례를 유보 안전 전문가에게 즉시 보고할 수 있어 전반적인 콘텐츠 관리와 정책 집행이 강화된다.

세이프블러는 DM 내에서 잠재적인 유해 콘텐츠를 자동으로 감지하고 흐리게 처리하고, 이용자 보고 시스템을 내장해 책임성을 강화하며 유보 커뮤니티 가이드라인 시행을 지원한다.

필터링되지 않은 통신을 선호하는 사용자를 위한 옵트아웃 기능도 제공한다.

세이프블러는 개인 상호작용에서의 콘텐츠 조정 문제를 해결하기 위해 개발됐다. 그룹 라이브 스트림보다 관찰자가 적은 DM은 괴롭힘이나 부적절한 행동에 더 취약한 환경이 될 수 있다. 유보가 2024년 실시한 심층 설문조사에 따르면, 성별과 연령대를 막론하고 다수의 이용자들이 DM용 콘텐츠 조정 도구를 선택적으로 사용하겠다고 응답한 것으로 나타났다. 세이프블러는 그룹 대화에서 적용되는 수준의 감시와 보호를 개인 대화로도 확장하고 있다.

유보의 공동 창업자이자 CEO인 사샤 라이즈미(Sacha Laizmi)는 “세이프블러는 엄격한 데이터 분석과 이용자 피드백을 통해 수집한 통찰력을 바탕으로 개발되었으며, 소셜 플랫폼의 신뢰와 안전 문제를 해결한다. 이는 이용자를 보호하면서도 개인정보 보호 문제를 해결하는 솔루션”이라고 말했다.