짧은 댓글에서부터 롱폼 동영상에 이르기까지, 어린이가 접근할 수 있는 콘텐츠를 호스팅하는 모든 플랫폼은 사용자가 생성하는 콘텐츠를 모더레이션(탐지/관리)해 폭력적이거나 불법적이고, 연령에 부적절한 콘텐츠로부터 시청자를 보호할 수 있어야 한다. 사용자를 유해한 콘텐츠에 노출시킨 기업에는 명예 훼손, 법적 조사, 서비스 정지, 운영 금지, 벌금 등이 부과될 수 있다.

하지만 사용자 제작 동영상 콘텐츠의 기하급수적 증가로 사람이 유해하고 불법적인 콘텐츠를 직접 식별해 내기는 어렵다. 관리의 범위를 넘어설 만큼의 많은 양으로 과부하가 걸리거나, 비용이 과도하게 발생하거나, 비효율적인 운영으로 인해 위반사항을 놓치거나 합법적인 콘텐츠의 게시가 지연되기도 한다. 게다가 엄청난 양의 콘텐츠를 모더레이션하기 위해 충분한 인력을 배치하고 비용을 통제하는 것은 불가능에 가깝다

글로벌 퍼블릭 클라우드, 에지 컴퓨팅 기업 지코어(Gcore)가 오디오, 텍스트 및 사용자 제작 동영상 콘텐츠를 실시간으로 탐지하고 관리하는 ‘지코어 AI 콘텐츠 모더레이션(Gcore AI Content Moderation) 솔루션’을 출시했다.

이 솔루션은 온라인 서비스 제공업체가 AI 또는 머신러닝(ML) 경험이 없이도 부적절한 콘텐츠를 자동으로 제재해 사용자 안전을 개선하고 EU의 디지털 서비스법이나 영국의 온라인 안전법안 등과 같은 국가별 규정을 준수할 수 있게 한다.

동영상 콘텐츠 스트림의 검토를 자동화해 부적절한 콘텐츠를 표시하고, 필요한 경우 사람 모더레이터에게 경고를 보낸다. 이 솔루션은 최첨단 기술을 통합해 동영상 또는 라이브 스트림이 게시된 후 몇 초 내에 검토를 시작한다.

이 솔루션의 주요 특징은 우선 컴퓨터 비전 모델로 객체를 감지하고 세분화 및 분류해 부적절한 시각적 콘텐츠를 정확하게 식별하고 플래그를 지정할 수 있다. 광학 문자 인식(Optical Character Recognition, OCR)도 가능해 동영상에 표시되는 텍스트를 머신이 읽을 수 있는 형식으로 변환해 동영상 콘텐츠 내에 표시되는 부적절하거나 민감한 텍스트 정보를 관리할 수 있다.

음성인식에 대한 정교한 알고리듬이 오디오 트랙을 분석해 욕설이나 혐오 발언을 감지하고 플래그를 지정해 시각적 콘텐츠만큼 효과적으로 오디오를 모더레이션 한다. 아동 착취와 관련된 콘텐츠의 식별과 같은 복잡한 의사결정에 다중 모델 출력 집계를 통해 정확하고 신뢰할 수 있는 결정을 내리게 한다.

이 밖에도 API를 통해 기업이 보유한 기존 인프라에 신속하게 통합할 수 있다. 뿐만 아니라 이러한 지코어의 콘텐츠 모더레이션은 총 200Tbps 이상의 네트워크 용량을 갖춘 180개 이상의 지코어 글로벌 엣지 네트워크에서 실행되어 고객에게 짧은 지연시간, 속도 및 회복 탄력성을 보장해 준다.

페트로브스키(Alexey Petrovskikh) 지코어 동영상 스트리밍 책임자인 알렉세이는 “이번에 선보인 지코어 AI 콘텐츠 모더레이션 솔루션은 기업이 글로벌 규모로 콘텐츠를 탐지 및 관리할 수 있는 권한과 역량을 부여하는 동시에 사람이 플래그로 지정된 콘텐츠를 검토할 수 있도록 해준다. 이러한 강점은 기업이 규정을 준수하면서 사용자, 커뮤니티, 더 나아가 기업 평판을 보호하는데 필수적인 역할을 한다.”고 말했다.