杜絕 AI 亂大選,Facebook 將全面封鎖 Deepfake 影片

這幾天台灣出現的「新店周星馳、景美吳孟達」被踢爆為 Deepfake,現在臉書也要出手全面封鎖了。
評論
Photo Credit:截自哈囉樓主 Lucid Film
Photo Credit:截自哈囉樓主 Lucid Film
評論

各位還對前幾天台灣出現的「新店周星馳、景美吳孟達」影片印象猶新嗎?這部影片被人稱寶博士的北科大互動設計系教授葛如鈞踢爆為 Deepfake 假影片,後來就連頻道主都自己承認用 Deepfake 做的。(但還是在下面留言說這是劇團,「你願意相信這一個夢的話,我們是一群長得很像明星的人喔」,不覺得怪怪的?)

1_SilFRzNneDi1BJhBuZkhhA
Photo Credit:截自哈囉樓主 Lucid Film
螢幕快照_2020-01-07_下午3_42_35
Photo Credit:截自哈囉樓主 Lucid Film

由於片中 Deepfake 了周星馳、吳孟達、梁家輝等港星,以及國民黨總統候選人韓國瑜並公開討論總統大選賭盤,被不少人認為是一支企圖影響本屆總統大選的 Deepfake 影片,也算繁體世界裡第一隻在劇情、人物與技術都如此唯妙唯俏,讓人意識到其嚴重性的 Deepfake 影片。

為了防範這種情形,四年前就飽受「劍橋分析事件」之苦的 Facebook 今天宣布將全面禁止 deepfake 影片與內容,無論是「普通人不易察覺、可能具誤導性的人為編輯內容」;但如果是模仿、諷刺的內容,或是只單純剪接、更改內容順序的影片則不算在內。

Facebook 表示,這些內容將會跟之前的社群政策一樣,經判別或檢舉後交給獨立的第三方事實查核機構判別;甚至還為此舉辦了 Deepfake Detection Challenge 挑戰賽吸引全球資安人員協助建立判別 Deepfake 內容之技術。

美媒 The Verge 則報導,這項政策主要是為了 Facebook 參加本週三美國眾議院所舉辦的媒體操作聽證會所準備的;Facebook 官方新聞的作者 Monika Bickert 本人就會代表 Facebook 在美國議員們面前發言。

而另一個社群鉅子Twitter 則是以「不禁止,但一定明確標註」之方式,處理日益興盛的 Deepfake 影片與語音。