디지털 생태계 전반에서 이미지·영상·오디오·텍스트가 AI로 생성되고 유포되면서, 온라인 신뢰는 구조적 위기에 직면하고 있다. 소비자 10명 중 7명이 진짜와 가짜 콘텐츠를 구분하기 어렵다고 답하며, 조작된 리뷰·딥페이크 영상·허위 뉴스는 일상적 위험으로 확대되고 있다.

대부분의 AI 검증 기술은 정적인 데이터셋 기반이어서 새롭게 등장하는 조작 방식과 실시간 확산 속도를 따라가지 못하는 한계가 존재한다. 기업과 기관 역시 브랜드 오염, 허위 청구, 선거 정보 조작 등 신뢰 리스크 증가에 대응하기 위한 실시간 검증 체계가 요구된다. 이러한 환경에서 실시간 진위 판별과 실시간 인간 의견을 동시에 수집하는 기술은 디지털 무결성 확보의 핵심 수단으로 부상하고 있다.

AI 오디오·콘텐츠 분석 기술 기업 마이ai 로보틱스(MYai Robotics, 이하 마이ai)가 인터넷 신뢰 위기를 해결하기 위해 실시간 콘텐츠 검 인텔리전스 엔진인 ‘큐레이션 AI(Curation AI)’를 출시했다. 

이 플랫폼은 이미지·영상·오디오·소셜 게시물·뉴스 등 모든 온라인 콘텐츠를 몇 초 만에 검증하고, 조작 여부와 출처 일치 여부를 분석해 명확한 진위성 평가를 제공한다. 동시에 실시간 온라인 대화를 분석해 편향되지 않은 여론과 감정 흐름을 추출하며, 브랜드·정책·제품에 대한 소셜 리스닝 기능도 제공한다. 큐레이션 AI는 소비자에게 무료 제공되며 보험, 미디어, 공공 정책, 규제 산업 등에서 시범 적용되고 있다.

실시간 콘텐츠 인증 및 검증 엔진

큐레이션 AI는 이미지, 비디오, 오디오, 텍스트 전 범위를 단일 스캔으로 분석해 딥페이크, 합성 미디어, 조작 흔적, AI 생성 아티팩트를 식별한다. 이를 통해 온라인에 게시된 콘텐츠의 신뢰성을 몇 초 안에 확인할 수 있도록 지원한다.

이 엔진은 기존 정적 학습 데이터셋 기반 모델과 달리 실시간 온라인 대화 흐름을 기반으로 알고리듬을 동작시켜 최신 조작 기법을 즉시 반영한다. 출처 불일치, 재사용 오디오, 프레임 왜곡, 픽셀 변형 등 다양한 지표를 활용해 다층 검증을 수행한다.

사용자는 모바일·웹 환경에서 뉴스, 이미지, 영상 또는 URL을 업로드하는 방식으로 손쉽게 검증을 수행할 수 있다. 결과는 몇 초 만에 제공되며, 기업과 소비자가 사실 기반 판단을 내릴 수 있는 즉각적 정보를 제공한다.

실시간 의견·여론 분석 인텔리전스

큐레이션 AI의 의견 검색 기능은 정적 데이터가 아니라 현재 발생하는 온라인 대화만을 활용해 실제 사용자의 의견을 추출한다. SNS, 커뮤니티, 댓글, 토론 흐름 등을 분석해 특정 이슈와 관련된 인간 감정을 실시간으로 파악한다.

이 기능은 기존 설문 조사보다 왜곡 가능성이 낮고, 조작된 리뷰나 AI 생성 게시물이 감정 흐름을 왜곡하는 상황을 빠르게 감지한다. 이를 통해 기업은 특정 사안에 대한 부정 여론 확산 여부를 실시간으로 파악해 보다 신속한 대응이 가능하다.

또한 큐레이션 AI의 실시간 여론조사는 온라인 토론 속 자연스러운 의견을 수집해 질문지 기반 조사 방식의 지연·편향 문제를 제거한다. 정치·선거 분야에서는 캠페인 메시지의 실시간 수용도를 분석하는 데 활용되며 초기 반응과 왜곡 가능성도 즉시 감지할 수 있다.

브랜드·산업 전반에 활용성 높아

브랜드·제품 관련 대화는 매우 빠르게 확산되기 때문에 실시간 분석은 기업 대응력을 좌우한다. 큐레이션 AI는 브랜드 언급 증가, 부정 여론 형성, 이슈 발생 시점을 즉시 감지해 조기 대응을 가능하게 한다. 또한 실제 사용자 의견과 AI 생성 리뷰를 구분해 브랜드 신뢰 훼손을 방지한다.

최근 플랫폼은 수만 건 조회된 TikTok 영상에서 합성 오디오, 이미지 조작, AI 생성 아티팩트, 출처 불일치를 즉시 식별했다. 이를 통해 사용자는 재공유, 반응, 신뢰 판단 전에 콘텐츠 진위를 확인할 수 있으며 잘못된 정보 확산을 효과적으로 줄일 수 있다. 엠와이AI 로보틱스는 소비자 보호를 위해 해당 기능을 무료로 제공하고 있다.

산업별 활용도 빠르게 확산되고 있다. 보험 분야에서는 허위 청구 검증에 활용되고, 미디어 업계는 출판 전 콘텐츠 검증으로 오보 위험을 줄인다. 기업 커뮤니케이션 조직은 평판 리스크를 조기 탐지하며, 공공 정책 및 선거 분야에서는 사실 검증 기반 캠페인을 지원한다. 법률·규제 산업에서는 AI 생성 문서와 디지털 증거 신뢰성을 판단하는 핵심 도구로 사용되고 있다.

마이ai 로보틱스는 큐레이션 AI를 소비자·기업·공공 분야 전반에 확대 적용해 디지털 신뢰 생태계를 구축하는 것을 중점 목표로 설정하고 있다. 향후 플랫폼은 웹 브라우저 플러그인, 모바일 확장 기능, 기업용 API 형태로 제공 범위를 확장할 계획이다.

마이ai 로보틱스의 카요드 알라데수이(Kayode Aladesuyi) CEO는 “인터넷에서 진실을 찾는 일은 그 어느 때보다 어려워졌다.”고 강조하며, “큐레이션 AI는 누구든 단 한 번의 스캔으로 콘텐츠의 진위를 확인할 수 있도록 하여 디지털 환경을 다시 신뢰 가능한 공간으로 만드는 데 기여할 것”이라고 말했다. 그는 또한 “실시간 검증된 정보가 모든 디지털 상호작용의 기본 표준이 되는 세상을 만들겠다”고 밝혔다.