온라인 서비스 사용자 안전 개선
유해 콘텐츠 자동 탐지 및 관리
국가별 규정 준수 지원
유해 콘텐츠 자동 탐지 및 관리
국가별 규정 준수 지원
지코어는 “어린이가 접근할 수 있는 콘텐츠를 호스팅하는 모든 플랫폼은 사용자가 생성하는 콘텐츠를 모더레이션해 폭력적이거나 불법적이고, 연령에 부적절한 콘텐츠로부터 시청자를 보호할 수 있어야 한다”면서 “사용자를 유해한 콘텐츠에 노출시킨 기업에는 명예 훼손, 법적 조사, 서비스 정지, 운영 금지, 벌금 등이 부과될 수 있다”고 말했다.
지코어는 “하지만 사용자 제작 동영상 콘텐츠의 기하급수적 증가로 사람이 유해하고 불법적인 콘텐츠를 직접 식별해 내기는 어렵다”면서 “모더레이터가 따라가지 못 할만큼의 많은 양으로 과부하가 걸리거나, 비용이 과도하게 발생하거나, 비효율적인 운영으로 인해 위반사항을 놓치거나 합법적인 콘텐츠의 게시가 지연되기도 한다”고 말했다.
지코어 AI 콘텐츠 모더레이션 솔루션은 동영상 콘텐츠 스트림의 검토를 자동화해 부적절한 콘텐츠를 표시하고, 필요한 경우 사람 모더레이터에게 경고를 보낸다. 해당 솔루션은 영상 또는 라이브 스트림이 게시된 후 몇 초 내에 검토를 시작한다.
우선 최첨단의 컴퓨터 시각(Vision) 모델을 사용해 객체를 감지하고 세분화 및 분류함으로써 부적절한 시각적 콘텐츠를 정확하게 식별하고 플래그를 지정할 수 있다. 둘째, 광학 문자 인식(OCR)이 가능하다. 동영상에 표시되는 텍스트를 머신이 읽을 수 있는 형식으로 변환해 동영상 콘텐츠 내에 표시되는 부적절하거나 민감한 텍스트 정보를 관리할 수 있다. 또 음성인식에 대한 정교한 알고리즘이 오디오 트랙을 분석해 욕설이나 혐오 발언을 감지하고 플래그를 지정함으로써 시각적 콘텐츠만큼 효과적으로 오디오를 모더레이션 한다. 마지막으로 아동 착취와 관련된 콘텐츠의 식별과 같은 복잡한 의사결정을 내리려면 여러 데이터 포인트와 다양한 모델의 출력을 통합해야 하는데 지코어 AI 콘텐츠 모더레이션 솔루션은 다중 모델 출력 집계를 통해 정확하고 신뢰할 수 있는 결정을 내린다.
이 밖에도 지코어 AI 콘텐츠 모더레이션 솔루션을 API를 통해 기업이 보유한 기존 인프라에 신속하게 통합할 수 있다. 뿐만 아니라 이러한 지코어의 콘텐츠 모더레이션은 총 200Tbps 이상의 네트워크 용량을 갖춘 180개 이상의 지코어 글로벌 엣지 네트워크에서 실행되어 고객에게 짧은 지연시간, 속도 및 회복 탄력성을 보장해 준다고 사측은 덧붙였다.
알렉세이 페트로브스키(Alexey Petrovskikh) 지코어 동영상 스트리밍 책임자는 “엄청난 양의 콘텐츠를 모더레이션하기 위해 충분한 인력을 배치하고 비용을 통제하는 것은 불가능에 가깝다”며 “이번에 선보인 지코어 AI 콘텐츠 모더레이션 솔루션은 기업이 글로벌 규모로 콘텐츠를 탐지 및 관리할 수 있는 권한과 역량을 부여하는 동시에 사람이 플래그로 지정된 콘텐츠를 검토할 수 있도록 해준다 이러한 강점은 기업이 규정을 준수하면서 사용자, 커뮤니티, 더 나아가 기업 평판을 보호하는데 필수적인 역할을 한다”고 덧붙였다.
.jpg?type=nf190_130)
