Facebook 和 Google 將用自動化技術移除極端言論

據路透社報導,Google、Facebook 等公司目前正在研究自動去除極端內容的辦法,並且有可能會利用侵權移除的手段來識別和壓制​極端言論。
評論
U.S. Army Sgt. William Reese watches flames rise into the night sky after setting canal vegetation ablaze in Tahwilla, Iraq, July 30, 2008. Extremists have been using the canal's thick vegetation to plant bombs under the cover of darkness. The soldiers are assigned to Company B, 1st Battalion, 6th Infantry Regiment.U.S. Army photo by Spc. David J. Marshall
U.S. Army Sgt. William Reese watches flames rise into the night sky after setting canal vegetation ablaze in Tahwilla, Iraq, July 30, 2008. Extremists have been using the canal's thick vegetation to plant bombs under the cover of darkness. The soldiers are assigned to Company B, 1st Battalion, 6th Infantry Regiment.U.S. Army photo by Spc. David J. Marshall
評論

原文來源為 36kr,Inside 獲授權轉載。

路透社報導 ,Google、Facebook 等公司目前正在研究自動去除極端內容的辦法,並且有可能會利用侵權移除的手段來識別和壓制極端言論。目前尚不清楚「極端」言論的底線在哪裡?但是隨著難民的湧入以及恐怖襲擊事件的日漸增多,歐、美的政治領袖已經把矛頭對準了網路上那些激進極端主義思想的傳播,並且謀求科技網路公司採取行動。如果這類系統開始被應用,有可能會被用來對付社群網絡上面那些歐美敵對分子的激進言論。

更早之前,網路公司的主流做法是靠使用者來標識非法或受限制的內容。今年年初 Facebook 表示,他們的使用者每天標記的內容數已經超過了 100 萬則。Twitter 跟 ISIS 相關賬號玩打地鼠遊戲就已經幾乎喘不過氣了,光今年二月就暫停了 12.5 萬個帳號。Google 也表示在 2016 年,一個月就收到了 7500 萬分 DMCA(數位千禧年著作權法案)移除請求。顯然,光靠人力處理這些東西幾乎是不可能的。微軟、Twitter、Facebook 和 Google 等之前也有過自動處理內容的先例,不過主要是針對兒童色情照片。

不過據路透社援引兩位知情人士的消息,一些網上最大的影音網站,正在開始利用自動化技術來說移除網站上的極端內容,其中就包括了 YouTube 和 Facebook。

這種技術原先主要是用來識別和移除影音網站上受版權保護的內容。工具會查找「哈希」(Hash)—即自動分配給特定影音內容的一個獨特的數位化指紋,一旦發現該影片內容的指紋與之相符,工具就可以自動刪除該影片。這是一個重大的調整。因為以前工具只是進行查找和標識的工作。但不會自動隔離內容。

但是這種做法也會引起大家的一些擔憂。首先是從技術上來說,何謂極端言論似乎很難用規則來判斷,這套壓制極端言論的系統也可能被濫用為壓制實際上並不極端的言論。其次是發表極端言論的人有可能會對自己的言論進行潤飾,發表一些表面上不極端骨子裡很激進的內容,這套系統未必能識別出來。

所以這樣一套系統的應用,真不知道是好事還是壞事。


精選熱門好工作

客服服務品質稽核專員

樂購蝦皮股份有限公司
臺北市.台灣

獎勵 NT$20,000

Software Manual Test 手動測試工程師

樂購蝦皮股份有限公司
臺北市.台灣

獎勵 NT$20,000

樂趣買 事業開發 Business Development(Rakuma)

台灣樂天市場
臺北市.台灣

獎勵 NT$20,000

評論