近轟動社會案件之一的莫過於網紅小玉利用 AI（人工智慧）的 Deepfake 來將名人的臉移植到色情片女優上。諷刺的是，這樣惡意「變臉」，讓他過去一年多非法獲利超過 1 千萬新台幣，利用這一點來發大財卻傷害到許多無辜女性，科技面的黑暗帶來「數位性暴力」，是不分性別、你我都必須要關注的議題和其後續發展。因為一個不小心，這非常有可能發生在我們身邊的人身上。倘若說，這件事的熱度又像其他新聞事件一樣過了，那麼，不就是一種助長數位性暴力犯罪的溫床嗎？

「數位性暴力」無所不在，受害者之一高嘉瑜立志推動「AI換臉」法案

這件事在網路立刻傳開來，政治人物也是不分藍綠、不分黨派地譴責這種數位性暴力，不只連總統蔡英文發文表示意見，就連國民黨洪孟楷、時代力量王婉諭都在 Facebook 上支持推動立法。

Deepfake 的技術是來自於 AI 人工智慧的「深度學習」（Deep learning) 來製造、創作出假影片、假訊息（Deepfake）。而 Deepfake 對於新手來說操作不困難，只要有仿造對象的照片、影音就可以弄出以假亂真的影片。而且在 App 發達的年代，手機裡要找到相關的應用程式也不是什麼困難事。

其實，這已經不是第一次 Deepfake 技術引發討論。英國女王伊麗莎白二世在每一年耶誕節都會發表演說，並在 BBC 或是 ITV 上播放。但在 2020 年的演說，英國電視台 Channel 4 就用 Deepfake 技術來惡搞女王的演說發表。事後，Channel 4 聲明這是針對假新聞提出一份「嚴正警告」。雖然白金漢宮對此不予置評，但身為媒體還帶頭來用 Deepfake 製作影片的行為，在網路上也引來兩面討論。

而在台灣這次的換臉事件主嫌-小玉說原先只是好玩、惡搞心理層面因素來做「換臉」影片。引發關注後，更進一步創了「台灣網紅挖面」推特，甚至還有在隱密性很高的 Telegram 開群並提供雲端連結給密友們觀賞。

從影片製作到使用的平台，都看得到科技的影子，用這樣的劣質方式在牟取暴利，但目前​​檢方也只能依散佈猥褻物品罪與妨害名譽罪起訴小玉，似乎有點不符合比例原則地輕，因為目前針對這樣數位性暴力在我國目前法律還無法可管！

這次的「換臉色情片」，受害者何其多，其中不乏許多我們熟知的女性名人，包含政治人物也都受害。但請問他們犯了什麼錯？這樣不雅影片不知道已經流落到多少人的手機螢幕上，但受害者們卻到很後來才知道這件事。

換臉色情片的女性政治人物受害者包含高嘉瑜委員、高雄黃捷議員。他們在第一時間都已經表示會提告，最值得關注的一點是高嘉瑜在臉書上也說明目前我國的法制面對於「AI 換臉」的數位性暴力沒有相關法條，因此，她身為立法委員會參考國際上的做法，包含以下四點：

1. 建立獨立的網路影像真實性查核單位。
2. 提高網路平台對於用戶發布內容之監督責任。
3. 將「AI換臉」之濫用視為獨立犯罪行為，並明文規範其刑事、民事與行政責任。
4. 於技術層面上，開發相關人工智慧工具以因應之，例如，美國新創公司Deeptrace已開始著手研發深度偽造辨識技術，以辨識影片之真偽。

此外，法務部部長蔡清祥在立法院答詢時也表示依照現行法處罰太輕，法務部已啟動修法程序，預計1個月內完成並送交行政院。而蔡英文總統針對該事件後也同樣在臉書上也承諾會強化科技犯罪的防治工作。

杜絕「數位性暴力」需要你我一起來關注和實踐

還記得去年鬧得沸沸揚揚的韓國「N 號房」事件嗎？當時有至少74名女性被性虐待、性剝削並錄下影片放在 Telegram 群組提供會員收費觀賞，年齡最小的受害者年僅11歲而已。

雖然這不是使用 Deepfake 技術的數位性暴力，但也是運用現在大眾都會擁有的聊天 app 來當作犯罪平台，這起事件不但震驚韓國社會，在台灣也引發高度關注。無論是小玉換臉移花接木他人的臉孔到 AV 女優身上或是 N 號房這種還牽涉到性虐待兒童，都有數位影片的痕跡留下來。這些犯罪的人被抓了、判刑後，受害者在身體上、心靈上的修復期是漫漫長的道路。

台北市議員吳沛憶在本月的臉書也提及到（在發生小玉事件前）她在教育委員會專案報告有提醒隨著私密影像案件流出屢有所聞外，教育單位該如何保護學生、教導學生們不要因為一時好奇心而傷害他人。

隨著科技越來越發達，所面臨的問題也只會越來越多，因此，在面對會造成傷害的數位性暴力問題，不能只是一時關心，而是要齊心來關注。政府在面對這類事件後，要來制訂法規、修法來防制未來可能會面臨的科技犯罪問題；在平時的教育中，性平教育也絕對不能夠缺少數位性暴力的議題。

責任編輯：Chris
核稿編輯：Anny

延伸閱讀：

• Deepfake 假造名人 A 片！網紅小玉遭警方逮捕
• 【YouTuber 文化論】故意踩線還討拍，小玉昭然若揭的逆向操作
• 【YouTuber 文化論】網紅該不該負社會責任？從放火、小玉、尊「廢片三冠王」談起
• 同行抱怨被查稅！小玉高調炫富，原來自己早就繳完稅