유튜브는 부적절한 콘텐츠를 찾아내기 위해 머신러닝 기술과 인력을 함께 활용해왔으며, 2017년에는 이러한 콘텐츠를 자동으로 감지하기 위해 한층 발전된 머신러닝 기술을 적용하기 시작했습니다. 이러한 자동 감지 시스템과 전문 검토 인력의 협력을 통해 보다 빠르고, 일관성 있게 정책을 시행할 수 있는 토대가 마련되었습니다.
유튜브는 커뮤니티 가이드라인을 위반한 콘텐츠를 신속히 삭제하고, 그 진행 과정을 알려주기 위해 최선을 다하고 있습니다. 지난 4월 분기별 유튜브 커뮤니티 가이드 집행 보고서를 발행한 것 역시 이러한 투명성을 높이고자 하는 노력의 일환입니다. 유튜브는 삭제된 채널 건수와 댓글 수, 동영상 또는 채널을 삭제한 이유와 같은 추가적인 데이터를 포함하여 보고서의 범위를 확대하고 있습니다.
사용자들이 시청하기 전에 정책 위반 콘텐츠를 삭제하기 위해 노력합니다.
앞서 블로그를 통해 인력 만으로는 절대 이룰 수 없는 속도와 처리량으로 콘텐츠를 삭제하는 데 있어 유튜브의 머신러닝 기술이 어떤 역할을 하는지에 대해 설명한 바 있습니다. 가이드라인을 위반한 콘텐츠를 모두 찾아내는 것은 결코 쉽지 않은 일이지만, 이는 유튜브의 매우 중요한 책임 중 하나로 많은 사람들이 콘텐츠를 시청하기 전에 이를 삭제할 수 있도록 끊임없이 노력하고 있습니다.
- 지난 7월부터 9월까지 780만 개의 정책 위반 동영상을 삭제했습니다.
- 삭제된 동영상 중 81%는 머신러닝 시스템을 통해 감지되었습니다.
- 시스템을 통해 감지된 동영상 중 74.5%는 업로드된 후 단 한 번도 조회되지 않은 영상이었습니다.
가이드를 위반한 동영상이 감지되면 유튜브는 해당 동영상을 삭제하고 채널에 경고를 합니다. 또한 커뮤니티 가이드라인을 지속적으로 위반하거나, 아동 성적 학대와 같은 심각한 위반 내용이 단 한 장면이라도 포함되어 있는 채널은 삭제 조치를 취하고 있습니다. 정책을 위반한 사례는 대부분 스팸이나 선정적인 성인용 콘텐츠를 업로드하는 악의적인 사용자로부터 발생합니다. 2018년 9월에 삭제된 채널의 90%, 동영상의 80% 이상이 스팸 또는 성인용 콘텐츠 관련 정책 위반으로 삭제되었습니다.
특히 폭력적 극단주의, 아동 안전을 위협하는 콘텐츠 등 건수는 적지만 유해성이 가장 심각한 사례를 중심으로 살펴보면, 머신러닝 시스템에 대한 투자가 더욱 큰 영향력을 발휘하고 있습니다. 2018년 9월에 업로드 된 영상 중 폭력적 극단주의 또는 아동 보호 위반으로 삭제된 동영상 중 90% 이상이 조회수가 10회 미만이었습니다.
특정 주제에 대한 정책을 강화하거나 엄격하게 적용하여 더 많은 콘텐츠를 삭제하는 경우 분기마다 수치에 변동이 있을 수 있습니다. 예를 들어 지난해 미성년자 폭력 관련 콘텐츠나 잠재적 위험을 일으키는 행위 등과 같이 아동에게 유해할 수 있는 콘텐츠를 정책에 폭넓게 반영하기 위해 전문가와 정기적으로 논의하고, 아동 안전에 대한 규정을 한층 엄격하게 적용했습니다. 그 결과, 삭제된 동영상의 10.2%가 아동 안전에 대한 정책을 위반한 내용이었고, 아동 성적 학대물(CSAM)은 삭제한 콘텐츠의 극히 일부에 불과했습니다.
댓글을 보다 안전하게 관리하기 위해 노력합니다.
동영상과 마찬가지로, 스팸 댓글이나 증오심 표현, 기타 악용 사례가 담긴 댓글을 신고, 검토하고 삭제하는 데에도 유튜브의 검토 인력과 머신 러닝 시스템이 함께 적용되고 있습니다.
뿐만 아니라 크리에이터는 직접 자신의 동영상에 있는 댓글을 관리할 수 있는 기능도 사용할 수 있습니다. 예를 들어 크리에이터는 모든 댓글이 게시되기 전 검토 대상으로 보류하거나, 링크 또는 불쾌한 내용이 포함된 댓글은 자동으로 보류되는 방식을 선택할 수 있습니다. 현재 백만 명 이상의 크리에이터들이 채널 댓글을 관리하기 위해 이 기능을 사용하고 있습니다.
가이드라인을 위반한 댓글을 차단하기 위한 정책 역시 더욱 엄격하게 적용하고 있습니다.
- 2018년 7월부터 9월까지, 2억 2,400만 건 이상의 댓글이 커뮤니티 가이드라인 위반으로 삭제되었습니다.
- 삭제된 댓글의 대다수는 스팸 댓글이었으며, 이는 매 분기 유튜브에 게시되는 수십억 개의 댓글의 극소수에 불과합니다.
- 삭제된 댓글 수는 증가했지만, 유튜브의 댓글 생태계는 꾸준히 성장하고 있습니다. 일일 사용자 중 댓글 작성하는 비율은 작년에 비해 11% 증가했습니다.
유튜브는 우리의 커뮤니티를 창의성이 넘치고, 독립적인 크리에이터들이 수익을 창출하며, 전 세계 사용자들이 열정과 관심사를 공유하며 소통할 수 있는 공간으로 유지하게 위해 최선을 다하고 있습니다. 유튜브는 계속해서 플랫폼을 악용하려는 사례와, 가이드라인을 위반한 콘텐츠를 사용자들이 조회하기 전에 감지하고 삭제할 수 있도록 하기 위한 노력과 투자를 지속할 것입니다. 더 좋은 소식을 전해드릴 수 있기를 기대합니다.
-유튜브 팀
Follow