

引退的百萬 YouTuber 「小玉」朱玉辰涉嫌於 Telegram 群組收費散布多則立委、YouTuber 等名人的 Deepfake 造假色情影音,於今日 (10/18) 上午遭警方逮捕。
紅極一時的 YouTuber 小玉過去就以整人、大挑戰為題材爆紅,但也引發不少爭議。在 2021 年 4 月,小玉宣佈從 YouTube 引退,其頻道也約一年未更新。不過另一方面警方則透過 Twitter 免費色情換臉短片,循線追查到 6000 人的 Deepfake AI 換臉色情影片 Telegram 群組。該群組入會費 400 元,可客制指定製作換臉影片,收費約在 300-3000 元間,估計不法所得超過 500 萬元。
在此之前,同為 YouTuber,也是換臉色情片受害者的奎丁就曾經拍片踢爆此 Telegram 群組,卻引發該群組變本加厲推播奎丁換臉影片。同樣也是換臉影片受害者的白癡公主、理科太太也曾接受鏡週刊採訪,來探討 Deepfake 技術未經當事人同意被應用在各種造假影片的狀況以及因應方式。
Deepfake 是一項透過 AI (機器學習)來合成特定人臉甚至人聲的技術,經過包裝成各式應用程式以後,大幅降低了影片換臉的技術門檻,而且相當逼真。Deepfake 一開始常見於大選期間攻擊政治人物的造假影片,沒多久馬上就被應用到色情影片換臉合成,大量名人都成了其受害者。不過 Deepfake 相關技術也可以用在正途,比如迪士尼就利用 Deepfake 輔助,造出逼真的電影合成畫面,也有新創團隊用 Deepfake 合成讓愛因斯坦原音重現甚至一般網友偶爾用來製造 meme,亂入電影畫面創造一些搞笑影片。
有鑒於 Deepfake 亂象,社群平台如 Facebook 就宣布全面封鎖利用此技術的造假影片,Twitter 則是會明確標注這是假訊息。微軟、紐約州立大學水牛城分校等單位還研發了反 Deepfake 的偵測工具,包括查看眼睛反射影像或是人眼不易察覺的臉部接縫處,來偵測影像是否遭合成修改。
核稿編輯:Chris
延伸閱讀:
- 衛星影像也會騙你!Deepfake 可偽造假空拍圖
- Deepfake 應用新例!新創團隊打造聊天機器人,讓愛因斯坦「原音」重現
- 再一組踢爆 Deepfake 假照片演算法!這次是用「人眼反射光」辨別
- Deepfake 快可以拍電影?迪士尼親自秀百萬畫素逼真 Deepfake技術
- 南韓 N 號房事件反思:加密通訊軟體的隱私性、利與弊
- 南韓 Telegram 上 N 號房剝削數十位性奴隸,26 萬人用加密貨幣付費觀看
- 防堵有人亂美國大選,微軟推出反 Deepfake 偵測工具!
- 【Wired 硬塞】Deepfake A 片有害,連女優也是受害者
- 杜絕 AI 亂大選,Facebook 將全面封鎖 Deepfake影片
- Twitter 的 Deepfake 新政策:不刪文,但明確註記這是假新聞