댓글 0
기사입력 : 2023.01.20 09:51
하이퍼커넥트(대표 안상일)가 데이터 마이닝 학회 ‘WSDM(Web Search and Data Mining) 2023’에서 부적절한 콘텐츠를 탐지하는 ‘콘텐츠 모더레이션’ 관련 기술 논문을 발표한다고 20일 밝혔다.
올해로 16회를 맞은 WSDM은 웹, 소셜 웹의 검색과 데이터 마이닝을 주제로 한 정보 검색 및 자연어 처리 분야의 국제학회다.
하이퍼커넥트는 3월 1일(현지 시각) ‘임계값 최적화를 통한 여러 하위 작업의 신뢰할 수 있는 결정: 실제 서비스 상황에서의 콘텐츠 모더레이션’ 논문을 발표한다. 특히 이번 연구는 논문 선정뿐만 아니라 채택된 논문의 약 30%만 받을 수 있는 ‘오랄 프레젠테이션’의 영예까지 안았다.
소셜 미디어 플랫폼은 부적절한 콘텐츠로부터 사용자를 보호하고자 콘텐츠 모더레이션 정책에 따라 머신러닝 모델을 활용해 매일 방대한 양의 콘텐츠를 처리한다. 콘텐츠 모더레이션 정책은 국가와 서비스 유형에 따라 상이하기 때문에 플랫폼에서는 각 정책에 맞춰 머신러닝 모델을 교육하고 활용해야 한다. 정책이 변경될 경우 플랫폼은 변화한 데이터 분포에 대해 데이터 세트 레이블을 다시 지정하고, 머신러닝 모델을 재학습시키는 과정에서 발생하는 비효율적인 비용을 감당해야 한다.
효율성 문제를 해결하기 위해 소셜 미디어 플랫폼은 그동안 콘텐츠 모더레이션을 미성년자 사용자 노출 여부, 부적절한 행동 등으로 세분화하고, 각 서브 태스크에 대한 예측점수를 제공하는 타사 모더레이션 서비스를 사용해왔다. 다만 각 서브 태스크의 예측점수에서 특정 정책에 대해 신뢰할 수 있는 최종 결정을 내리는 콘텐츠 모더레이션 기술에 대해서는 그동안 심도 있는 연구가 진행되지 않았다.
하이퍼커넥트의 이번 논문은 끊임없이 변화하는 콘텐츠 모더레이션 정책에 맞춰 콘텐츠 리뷰를 효율적으로 자동화할 수 있는 머신러닝 기반의 기술을 제안한다.
콘텐츠에 대한 객관적 사실들을 서브 태스크로 학습하는 ‘다중 서브 태스크 접근 방식’과 학습한 서브 태스크를 각 콘텐츠 모더레이션 정책에 유연하게 적용해 신뢰할 수 있는 결정을 내리는 임계값 최적화 방법인 ‘트러스트 스레시’가 그것이다. 콘텐츠 모더레이션의 실제 시나리오를 공식화하고 여러 서브 태스크의 최적 임계값을 검색해 비용 효율적인 방식으로 콘텐츠 모더레이션 결정을 내릴 수 있는 임계값 최적화 방법이다.
하이퍼커넥트는 광범위한 실험을 통해 해당 기술이 콘텐츠 모더레이션에서 기존 방식 대비 더 나은 성능을 보인 것을 확인했다. 이 기술은 국내에서 특허 출원을 마쳤으며 향후 미국을 포함해 글로벌 특허 출원 및 등록을 시도할 예정이다.
