【Wired 硬塞】Deepfake 地圖真能可以打破你對世界的三觀

研究人員用 Deepfake 這種 AI 技術讓西雅圖的空照圖看起來像新疆,該偽造圖片可能誤導政府或在網路上散播。
評論
示意圖。Photo Credit:iStock
評論

原文來自 Wired《Deepfake Maps Could Really Mess With Your Sense of the World》,作者 Will Knight。台灣康泰納仕集團授權提供,由 Amber Peng 翻譯並經 INSIDE 編審。

在 2016 年到 2018 年的衛星影像中可以看見新疆大規模的集中營,該照片成為證明中國政府壓迫超過一百萬民穆斯林的強力證據,並激起國際社會的撻伐與制裁。其他的例子還有伊朗核武以及北韓飛彈基地的空照圖,這些照片成功地引起民眾對於國際議題的關注。

但是,現今的修圖技術加上人工智慧後,讓人們很難「眼見為憑」了。

在上個月線上發表的一份研究中,華盛頓大學的趙博教授就用了 AI 技術來修改幾個城市的衛星影像,他的團隊交換了北京和西雅圖的一些地景,將西雅圖原本是空地的地方放上建築物,並把西雅圖的一些區域換成北京的綠地。

趙教授使用了 CycleGAN 這種演算法來修改衛星影像,該演算法由加州大學柏克萊分校所開發,並已廣泛使用在許多「照騙」上。CycleGAN 訓練的人工神經網絡可以辨識圖像的特徵質,例如繪圖風格或是地圖上的某種特徵。同時,另一個演算法會偵測某圖片是否被修改過,以增強第一個演算法的效能。

COURTESY OF ZHAO ET AL., 2021, JOURNAL OF CARTOGRAPHY AND GEOGRAPHIC INFORMATION SCIENCE
▲華盛頓州塔科馬市的地圖(左上)和衛星圖像(右上)。下圖經過修改,使塔科馬看起來更像西雅圖(左下)和北京(右下)。

假如說 Deepfake 影片是為了把某人捲進不雅事件,而 Deepfake 照片則可能誤導政府,或在網路上傳播,讓大眾相信假消息,甚至懷疑起真實的資訊。

加拿大麥基爾大學的空間數據科學助理教授葛蘭特・麥肯茲(Grant McKenzie)表示:「我相信這不是會馬上影響普羅大眾的嚴重問題,但是在未來十年內會悄悄地成為重要議題。」麥肯茲並沒有參與本文提及的實驗。

麥肯茲繼續說明:

「你可以想像未來有一個政府,或是任何一位行動人士可以操弄影像,讓你看到照片裡什麼東西都沒有,或是跟現實完全不一樣的東西,我真不知道現在有什麼方法可以阻止這件事情發生。」

幾張修改技術很粗糙的衛星圖片已經在社群媒體上瘋傳,包含一張慶祝印度教傳統節日──排燈節,印度天空被點亮的空照圖,雖然這很容易就看的出來是修過的圖片,但是未來一定會有被改得更逼真的衛星影像出現,目的可能是把存放武器的地點隱藏起來,或讓敵方誤判軍事行動,這是遲早會發生的事。

佳百列・林姆(Gabrielle Lim)是哈佛大學甘迺迪學院肖恩斯坦中心的研究員,媒體操作是她主要的研究項目。她表示就算沒有人工智慧,地圖也能用來誤導大眾。她提到美國眾議院議員亞莉山卓・歐加修・寇蒂茲(Alexandria Ocasio-Cortez)的例子,網路上有幾張圖片顯示她在一月六號國會暴動的時候根本不在現場,跟她先前所說的不一致。另一個例子是中國護照的圖片,在護照中可以看到中國把受爭議的南海地區列為自己的領土。林姆表示:「沒有用到什麼厲害的科技,但是已經可以達到相似的效果。」

空照圖對於數位製圖、天氣追蹤系統、以及投資方向非常重要,因此偽造的空照圖有很高的潛在商業價值。

美國情報單位就表示偽造的衛星影像是個越來越嚴重的問題,美國國家地理空間情報局的發言人表示:「敵方可能用假資訊來影響我們對世界的的理解。」美國國家地理空間情報局是國防部用來蒐集、分析和提供地理空間資訊的單位。

該發言人也指出雖然犯罪科學的技術可以分辨出假照片,但是隨著電腦自動合成圖越來越氾濫,他們需要新的方法來解決問題。

某些軟體可能可以找出改圖的痕跡,例如圖像加工處,或是變更檔案數據,不過 AI 也可以刪除這些加工痕跡,這些造假的人跟抓造假的人就像在玩貓抓老鼠的遊戲,你找我藏。

美國國家地理空間情報局的發言人表示:「民眾已經逐漸意識到了解、驗證、信任消息來源的重要性,而科技是提升人民意識的關鍵。」

找出用 AI 修改的假照片已經成為學界、產業界和政府的重點目標。一些科技巨頭,像是 Facebook,也理解到假消息的嚴重性,因此他們也支持用電腦找出 Deepfake 影片的行動。

華盛頓大學的趙教授正打算找出更多自動識別 Deepfake 衛星圖的方法,他表示靠著研究地景隨時間的改變,可以找出潛在的修改痕跡,他指出:「某一時間點下的空間特徵是很關鍵的線索。」

不過,趙教授也擔心,儘管政府有找出假圖片的技術,民眾可能早就被假消息誤導了,他說:「如果假衛星圖已經在網路上散播,問題就大了。」

責任編輯:Chris
核稿編輯:MindyLi

延伸閱讀:



雲隨商轉.建構由我!2021 AWS 台灣雲端高峰會,9 月 2 日線上磅礴登場

2021 AWS 台灣雲端高峰會將在 9 月 2 號登場,全天候透過線上舉行,免費接軌業界資源、技術交流不斷電,任何需要開拓雲端新經濟或是自我加值的工作者,都不該錯過這場盛會。
評論
Photo Credit:AWS
評論

AWS 公布今年度的雲端技術盛會訊息:2021 AWS 台灣雲端高峰會 ( AWS Summit Online ) 即將在 9 月 2 號登場!全天候透過線上舉行,讓業界的交流與創新不間斷。今年的活動主題定為「雲隨商轉.建構由我」,強調 2021 年企業仍持續尋找新常態的求生法則,不分產業擁抱數位轉型,以及掌握雲端驅動力,人人都應具備開創新局的力量。

2021 AWS 台灣雲端高峰會,聚焦七大雲端主題

Photo Credit:AWS

今年度的 AWS 台灣雲端高峰會,不只將一次集結 AWS 重量級技術專家與產業代表,共同分享最前瞻的技術發展、商業洞見及最佳實務,還有線上互動展覽、hands-on 實作課程、demo 實機展演、一對一線上諮詢等多元體驗,帶領參與者充分掌握雲端技術動態,實現創新藍圖。

透過 2021 AWS 台灣雲端高峰會的活動平台,無論是 AWS 技術與服務的初學者或資深使用者,都可以在高峰會上學習到新事物,並透過七大雲端主題聚焦學習,為自己的能力加值。

2021 AWS 台灣雲端高峰會七大雲端主題,包含:

  • AI 與機器學習
  • 最佳實務分享
  • 資料分析
  • IT 管理
  • 資安與合規
  • 創新思維
  • 應用程式現代化

另外,參與者還可以根據個人的工作執掌、興趣和產業相關課程、技術能力,找到量身定制的議程。以下是 AWS 台灣雲端高峰會官方提供的技術能力分級參考,建議有興趣的與會者不妨以此作為基準,為自己安排相對應的議程。

  • Level 100(初級):課程將涵蓋服務、特色及效益的概觀說明,無須任何課前先修知識。
  • Level 200(中級):課程將聚焦於最佳實務、服務特色詳情以及展示或程式碼範例。需具備初級主題知識。
  • Level 300(高級):課程將深入說明服務特色、經驗分享、部署及架構範例。參與此課程,需對 AWS 服務及 AWS 平台有深入的了解。
  • Level 400(忍者):課程將集中說明更為複雜的主題,如進階編碼、架構、基礎結構設計和解決方案。需具備對主題的深入了解。

立即報名:2021 AWS 台灣雲端高峰會

不限專業大師或怪獸新人,你也應該參加 2021 AWS 台灣雲端高峰會

AWS 台灣雲端高峰會不限於技術開發人員或是企業高階主管,無論是想了解最新趨勢的雲端初心者、尋求技術突破的資深使用者,或是想在有限預算內提升營運效率的企業主,都有機會在「2021 AWS 台灣雲端高峰會」上找到答案。

2021 AWS 台灣雲端高峰會參加對象,包含:

  • 別創新格 - 開發人員
  • 邏輯清晰 - 工程師
  • 足智多謀 - 解決方案或系統架構師
  • 技術神展開 - IT專業人員或技術支援經理
  • 硬體擔當 - 系統管理員
  • 日理萬機 - 創辦人或經營決策者
  • 自我充實 - 學生、教職或研究員

最重要的是,2021 AWS 台灣雲端高峰會可免費報名參加,任何需要開拓雲端新經濟還自我加值的工作者,都不該錯過這場盛會!

立即報名:2021 AWS 台灣雲端高峰會

AWS DeepRacer 人工智慧賽車同步登場!快交出你最夠勁的模型

Photo Credit:AWS

每年跟著台灣雲端高峰會前會舉行的 AWS DeepRacer 智慧自駕車競賽,今年亦不缺席,即日起至 2021 年 10 月 31 日都可以提交模型參加競賽。

為什麼要參加 AWS DeepRacer?因為這是全球首個自動駕駛賽車聯盟盃賽,讓機器學習驅動的賽車模型在場上奔馳,除了要激起開發者的鬥志,也可更加精進與磨練機器學習(ML)、強化學習(RL)技術,是 AWS 送給所有工程師最棒的寓教於樂場域。當然,參加 AWS DeepRacer 競賽不只能贏取獎品和榮耀,也可獲得晉級 AWS DeepRacer 冠軍賽的機會

立即報名:2021 AWS 台灣雲端高峰會