掃蕩平台毒瘤,YouTube 加速移除違規影片、把關留言環境新進展!

評論
評論
Photo Credit: REUTERS

去年度,Google 宣佈將繼續使用機器學習開發程式,以打擊極端主義內容。經過一段時間的實測顯示,AI 比人類可以更快更精準的清理 YouTube 上的非法內容,除了技術處理,也藉由小組成員進行人工審查,YouTube 透過在 4 月發佈了每季一次的《YouTube 社群規範執行報告》,與用戶報告最新進度,包含遭移除的頻道數、遭移除的留言數,以及移除影片頻道所依據政策。

YouTube 今天發表了《社群規範》執行概況的最新進展,包含加速移除違規影片,打造更安全的留言環境兩大重點,根據官方資訊整理如下:

搶在觀眾看到前 YouTube 究竟如何先行移除?

發現違反《社群規範》的影片之後,YouTube 會將其移除並頻道發出警告。如果頻道繼續發佈《社群規範》禁止的內容,或是任一嚴重違規事例 (例如兒童性虐待),YouTube 就會終止整個頻道。絕大多數的濫用行為都是由企圖上傳垃圾或成人內容的不肖人士所為:YouTube 在 2018 年 9 月移除的頻道和影片當中,有超過 90% 的頻道和超過 80% 的影片都是因為違反 YouTube 的垃圾或成人內容政策而遭到移除。

針對暴力極端主義和兒童安全這些數量較少、違規情節卻最為重大的領域,YouTube 在抵制這類內容上投入的大量資源正逐漸產生效果:在 2018 年 9 月上傳,且因暴力極端主義或兒童安全問題而遭到移除的影片當中,有超過 90% 的影片都只有不到 10 次的觀看次數。

這些數據每季都會出現波動。如果小組成員針對特定類別制定更嚴謹的政策,波動幅度就會更為明顯。舉例來說,在去年補強了兒童安全政策並定期諮詢專家的意見,以確保政策能夠遏止各種可能對兒童造成傷害的內容,包括未成年人打架鬧事或參與可能引發危險的膽量挑戰活動等。

接著就發現有 10.2% 的影片是因為可能危害兒童而遭到移除,和過去相較移除的比例有所成長,且因為含有兒童性虐待內容(Child Sexual Abuse Material, CSAM) 而遭到移除的內容僅佔其中一小部分。

成果:

● 在 2018 年 7 月至 9 月之間,YouTube 移除了 780 萬部影片

● 其中 81% 是由 YouTube 的系統率先偵測到

● 在系統偵測到的影片當中,有 74.5% 的影片在尚未被觀眾看到前就已經被偵測

 創作者崛起 YouTube 如何把關留言環境

與影片相同,YouTube結合了智慧型偵測技術和人工審查員來檢舉、審查及移除含有垃圾內容、仇恨言論與其他騷擾/濫用行為的留言。

同時,YouTube 也打造了多種實用工具,讓創作者能夠管理自製影片中的留言。舉例來說,創作者可以選擇親自審核所有留言,或是由系統自動將含有連結或可能讓人感到被冒犯的留言加以隱藏,以便創作者進行審核。目前已有超過 100 萬名創作者使用這些工具來管理頻道上的留言。[1]

YouTube 也持續加重對違規留言的處置,近期成果如下:

● 2018 年 7 月至 9 月期間,YouTube的小組成員移除了超過 2 億 2400 萬則違反 YouTube《社群規範》的留言。

● 遭到移除的留言多半是因為含有垃圾內容。每季在 YouTube 上發佈的留言多達數十億則,而遭移除留言的總數僅佔其中的一小部分。

● 儘管 YouTube 移除了更多違規留言,但觀眾的留言反而更加熱絡。相較於去年,每日使用者發佈留言的機率如今高出了 11%。

YouTube 也表示將持續抵制平台中不當行為,目前仍有許多進步空間,但未來會持續投注資源於人力和技術,以便快速移除違規內容。

[1] 報告中不包含創作者在頻道上自行移除的留言,因為這些留言是透過創作者選擇採用的管理工具加以移除,而非由 YouTube 的小組成員依據《社群規範》審核並移除的違規內容。

延伸閱讀:


評論