【政治小編心內話】小玉 Deepfake 風暴:他所引起的「數位性暴力」啟示錄

小玉這樣惡意「變臉」,讓他過去一年多非法獲利超過 1 千萬新台幣,利用這一點來發大財卻傷害到許多無辜女性,這種黑暗面是不分性別、你我都必須要關注的議題和其後續發展。
評論
小玉 YouTube 截圖
評論

近轟動社會案件之一的莫過於網紅小玉利用 AI(人工智慧)的 Deepfake 來將名人的臉移植到色情片女優上。諷刺的是,這樣惡意「變臉」,讓他過去一年多非法獲利超過 1 千萬新台幣,利用這一點來發大財卻傷害到許多無辜女性,科技面的黑暗帶來「數位性暴力」,是不分性別、你我都必須要關注的議題和其後續發展。因為一個不小心,這非常有可能發生在我們身邊的人身上。倘若說,這件事的熱度又像其他新聞事件一樣過了,那麼,不就是一種助長數位性暴力犯罪的溫床嗎?

「數位性暴力」無所不在,受害者之一高嘉瑜立志推動「AI換臉」法案

這件事在網路立刻傳開來,政治人物也是不分藍綠、不分黨派地譴責這種數位性暴力,不只連總統蔡英文發文表示意見,就連國民黨洪孟楷時代力量王婉諭都在 Facebook 上支持推動立法。

Deepfake 的技術是來自於 AI 人工智慧的「深度學習」(Deep learning) 來製造、創作出假影片、假訊息(Deepfake)。而 Deepfake 對於新手來說操作不困難,只要有仿造對象的照片、影音就可以弄出以假亂真的影片。而且在 App 發達的年代,手機裡要找到相關的應用程式也不是什麼困難事。

其實,這已經不是第一次 Deepfake 技術引發討論。英國女王伊麗莎白二世在每一年耶誕節都會發表演說,並在 BBC 或是 ITV 上播放。但在 2020 年的演說,英國電視台 Channel 4 就用 Deepfake 技術來惡搞女王的演說發表。事後,Channel 4 聲明這是針對假新聞提出一份「嚴正警告」。雖然白金漢宮對此不予置評,但身為媒體還帶頭來用 Deepfake 製作影片的行為,在網路上也引來兩面討論。

而在台灣這次的換臉事件主嫌-小玉說原先只是好玩、惡搞心理層面因素來做「換臉」影片。引發關注後,更進一步創了「台灣網紅挖面」推特,甚至還有在隱密性很高的 Telegram 開群並提供雲端連結給密友們觀賞。

從影片製作到使用的平台,都看得到科技的影子,用這樣的劣質方式在牟取暴利,但目前​​檢方也只能依散佈猥褻物品罪與妨害名譽罪起訴小玉,似乎有點不符合比例原則地輕,因為目前針對這樣數位性暴力在我國目前法律還無法可管!

這次的「換臉色情片」,受害者何其多,其中不乏許多我們熟知的女性名人,包含政治人物也都受害。但請問他們犯了什麼錯?這樣不雅影片不知道已經流落到多少人的手機螢幕上,但受害者們卻到很後來才知道這件事。

換臉色情片的女性政治人物受害者包含高嘉瑜委員、高雄黃捷議員。他們在第一時間都已經表示會提告,最值得關注的一點是高嘉瑜在臉書上也說明目前我國的法制面對於「AI 換臉」的數位性暴力沒有相關法條,因此,她身為立法委員會參考國際上的做法,包含以下四點:

  1. 建立獨立的網路影像真實性查核單位。
  2. 提高網路平台對於用戶發布內容之監督責任。
  3. 將「AI換臉」之濫用視為獨立犯罪行為,並明文規範其刑事、民事與行政責任。
  4. 於技術層面上,開發相關人工智慧工具以因應之,例如,美國新創公司Deeptrace已開始著手研發深度偽造辨識技術,以辨識影片之真偽。

此外,法務部部長蔡清祥在立法院答詢時也表示依照現行法處罰太輕,法務部已啟動修法程序,預計1個月內完成並送交行政院。而蔡英文總統針對該事件後也同樣在臉書上也承諾會強化科技犯罪的防治工作。

杜絕「數位性暴力」需要你我一起來關注和實踐

還記得去年鬧得沸沸揚揚的韓國「N 號房」事件嗎?當時有至少74名女性被性虐待、性剝削並錄下影片放在 Telegram 群組提供會員收費觀賞,年齡最小的受害者年僅11歲而已。

雖然這不是使用 Deepfake 技術的數位性暴力,但也是運用現在大眾都會擁有的聊天 app 來當作犯罪平台,這起事件不但震驚韓國社會,在台灣也引發高度關注。無論是小玉換臉移花接木他人的臉孔到 AV 女優身上或是 N 號房這種還牽涉到性虐待兒童,都有數位影片的痕跡留下來。這些犯罪的人被抓了、判刑後,受害者在身體上、心靈上的修復期是漫漫長的道路。

台北市議員吳沛憶在本月的臉書也提及到(在發生小玉事件前)她在教育委員會專案報告有提醒隨著私密影像案件流出屢有所聞外,教育單位該如何保護學生、教導學生們不要因為一時好奇心而傷害他人。

隨著科技越來越發達,所面臨的問題也只會越來越多,因此,在面對會造成傷害的數位性暴力問題,不能只是一時關心,而是要齊心來關注。政府在面對這類事件後,要來制訂法規、修法來防制未來可能會面臨的科技犯罪問題;在平時的教育中,性平教育也絕對不能夠缺少數位性暴力的議題。

責任編輯:Chris
核稿編輯:Anny

延伸閱讀:



洞見機會,創新未來──新創如何用雲端打出一手好牌:AWS Startup Day 7 月 15 日線上重磅回歸

AWS Startup Day 即將於 7 月 15 日重磅回歸,此次不只聚焦新創趨勢與數位應用,更聯合 AWS 創投新創媒合會,提供參與者豐富的資源,所有與新創生態系相關的夥伴都不容錯過。
評論
Photo Credit:AWS
評論

隨著 Web3.0 去中心化的趨勢開展與現在進行式的產業數位轉型浪潮,雲端技術早已成為許多早期新創發展產品或服務的關鍵金鑰,甚至為其奠定高速發展的穩健根基。而台灣雲端服務供應龍頭 AWS(亞馬遜網路服務公司)更自 Web2.0 時代開始就從未缺席,始終在技術新知、應用實務等方方面面致力支持新創,其中最具代表性的免費論壇活動──AWS Startup Day 也即將於今年 7 月 15 日重磅回歸,在線上和參與者相會!

今年度 AWS Startup Day 持續聚焦新創趨勢與數位應用,精心規劃八場新創專題演說,非常適合長期關注新創生態系統的相關人士,或是正要起步、成長的新創夥伴報名參加。

立即報名 2022 AWS Startup Day!

五大特色議程安排,給你滿滿新創觀點與技術乾貨

Photo Credit:AWS

「新創如何運用雲端科技打出一手好牌,投注資源延續未來業務?」這是今年 AWS Startup Day 欲探討的核心議題之一。為解答雲端科技之於新創企業的珍貴價值,AWS 以「國際市場」、「創投趨勢」、「多元創業」、「雲端技術」、「焦點產業」等五大特色精心規劃講座內容,完整收錄新創趨勢脈動、雲端技術實務、佈局策略觀點與創投媒合等新創事業歷程的重要節點。為此,AWS 不只力邀 Web3.0、電商、串流、B2B 解決方案等不同領域的新創合作夥伴,分享選擇 AWS 開展新創事業的策略考量,更毫不藏私地解析雲端技術如何快速又穩定的開拓事業。

Photo Credit:AWS

無論新創還是育成,想要洞見機會就不能錯過 AWS Startup Day

Photo Credit:AWS

任何產業或技術的發展,不單要前人的引領,也需要後繼者無窮盡的創新思維與打破框架的勇氣,缺乏其中一個環節,生態系都無法平衡永續。所以無論是天使創投、孵化器,還是剛起步或處於早期新創的企業,只要你身為新創生態系統中的一份子,渴望尋求創意突破或開展新興業務,AWS Startup Day 都是你絕對不能錯過的最佳活動。

填單取得 2022 AWS Startup Day 免費入場券!

尋找下一個新創獨角獸──同場加映 AWS 年度創投新創媒合會

本次 AWS Startup Day 除新創及創投相關講座外,AWS 更直接邀請多家國際及台灣知名創投公司,與 AWS Startup Day 同場舉辦今年度唯一的線上「新創創投媒合會」,欲透過串聯本地深具潛力的新創與創投,幫助台灣新創企業獲得更豐富的資源,孕育下一個獨角獸。

根據 AWS 釋出的消息,媒合會將以早期天使輪或 Pre-A 輪融資為主,重點關注 AI/ML工具和平台、智能零售、MarTech、Web3.0、媒體和娛樂等產業,並以快速輪流的形式替新創獲得最大的曝光。

立即報名 2022 AWS Startup Day,共構台灣新創生態系統!