家長注意!YouTuber 實測:兒童影片遭戀童癖濫用獲利

評論
Photo Credit: MattsWhatItIs頻道
Photo Credit: MattsWhatItIs頻道
評論

YouTube 上所引爆的爭議影片事件層出不窮,兩年前讓地方家長們惶恐的二創血腥卡通事件讓人心有餘悸,讓 YouTube 官方苦惱的同時,他們也竭盡所能告訴大家透過人工智慧如何更有效打擊不當內容及色情等違規影片,然而這樣的防範還是不夠。

外國 YouTuber 實測可怕戀童癖蟲洞

近日,外國 YouTuber Matt Watson 在一則影片告訴大家,YouTube 影片推薦演算法如何讓你掉進戀童癖的「蟲洞」,為了免於落入這樣可怕的蟲洞效應讀者們避免輕易嘗試,透過這支實測影片來了解這個蟲洞究竟是如何運作,在平台上又存在哪些潛在的問題?

Matt Watson 首先透過 VPN 到加拿大開啟全新的帳號,確保演算法不會受到歷史紀錄的影響,接著透過全新的帳戶在搜尋欄鍵入「bikini haul」(比基尼試穿)關鍵字,點擊其中一部影片以後再點選右方推薦欄位影片,他發現自己在平台上已經被小女孩的影片淹沒,且她們平均年齡不到 13 歲。

點進這些影片會發現是紀錄未成年少女的日常,像是在戶外運動、室內做瑜伽、與朋友們在房間內嬉戲,還有在診療台上接受物理治療。

不過仔細一看會發現上傳這些影片的並不是這些女孩們,最令人毛骨悚然的是,在留言區中有許多時間標記可以發現一連串藍色時間標籤(timestamp),其中都是標出片中女孩們不經意露出身體部位,許多像是「美麗的女神」和「美麗的芭比娃娃」評論看起來更是弔詭,顯見是戀童癖的集散地。

螢幕快照_2019-02-22_上午11_47_53
MattsWhatItIs 頻道

二十多分鐘的實測影片中,Watson 掉入蟲洞以後觀察僅有少數影片留言區被關閉,其他大部份都充斥著讓人背脊一涼的留言,說明著這些被有心人士利用的影片並沒有被 YouTube 的監控系統偵測到,最要不得的是,在這些影片中甚至還有穿插著廣告,也就是說他們甚至還通過審查取得資格成 YouTube 的合作夥伴,用頻道影片中放送的廣告賺取收益。

Watson 屢試不爽,眉頭深鎖的他鍵入「健身伸展」、「瑜伽女孩」、「瑜伽伸展」等關鍵字,不需要五次點擊,就會進入這樣可怕的蟲洞,所花上的時間甚至不超過十分鐘。神色凝重的他呼籲大家使用 #YouTubewakeup 要所有用戶重視這項嚴重問題。

對 YouTube 再失信心,品牌、家長的因應?

短短不到一週,這支指控 YouTube 演算法的影片觀看次數已超過 200 萬並迅速擴散開來,品牌主們也採取行動撤下 YouTube 的廣告,據報導,目前包含遊戲公司《Fortnite》之製作公司 Epic Games、雀巢、迪士尼等大型品牌。

所謂道高一尺魔高一丈,即便 YouTube 再三打擊兒童色情、血腥暴力內容,有心人士的濫用還是無法被目前 YouTube 的審查機制揪出,讓人不解的是這類戀童團體是非法下載重製上傳影片,卻可以逃過 YouTube 的法眼。

先前我們也曾討論過 YouTube 平台演算法出了問題才讓類似的「蟲洞效應」容易出現,無法有效打擊潛在兒童色情內容卻將寶可夢含有 CP 字眼的影片誤刪,顯示著審查機制仍有相當長足的進步空間,如何訓練出更深度的 AI、更靈活的演算法與真人之間該如何協作。

YouTube 強調推薦演算法的更新為漸進式,藉由機器學習技術與真人審查員,並持續協助AI 訓練,目前約有一萬名員工在負責標記審查內容,不過以目前每分鐘有 400 小時影片被海量上傳的情況下,要能在影片本身甚至留言區全盤監控確實相當挑戰。

在二創卡通血腥事件爆發後,家長們可以採取的措施善用兒童版的 YouTube Kids,在這次的事件中,可已看到即便經過人工智慧加上真人審查都還是難以抵擋有心人士,未來家長們恐怕必須更注意自己上傳家中孩童影片,甚至注意小孩們日常所拍攝並會上傳到頻道的內容是否有上述的疑慮了。

責任編輯:Anny
核稿編輯:李柏鋒

延伸閱讀:




精選熱門好工作

客戶管理企劃 Key Account Management Planner

樂購蝦皮股份有限公司
臺北市.台灣

獎勵 NT$20,000

UI/UX 設計師

Omlet Arcade 美商歐姆雷特
臺北市.台灣

獎勵 NT$20,000

資深軟體工程師 (Senior Software Engineer) 有Node.js經驗

iKala 愛卡拉
臺北市.台灣

獎勵 NT$20,000

評論