【Wired 硬塞】Deepfake 地圖真能可以打破你對世界的三觀

研究人員用 Deepfake 這種 AI 技術讓西雅圖的空照圖看起來像新疆,該偽造圖片可能誤導政府或在網路上散播。
評論
示意圖。Photo Credit:iStock
評論

原文來自 Wired《Deepfake Maps Could Really Mess With Your Sense of the World》,作者 Will Knight。台灣康泰納仕集團授權提供,由 Amber Peng 翻譯並經 INSIDE 編審。

在 2016 年到 2018 年的衛星影像中可以看見新疆大規模的集中營,該照片成為證明中國政府壓迫超過一百萬民穆斯林的強力證據,並激起國際社會的撻伐與制裁。其他的例子還有伊朗核武以及北韓飛彈基地的空照圖,這些照片成功地引起民眾對於國際議題的關注。

但是,現今的修圖技術加上人工智慧後,讓人們很難「眼見為憑」了。

在上個月線上發表的一份研究中,華盛頓大學的趙博教授就用了 AI 技術來修改幾個城市的衛星影像,他的團隊交換了北京和西雅圖的一些地景,將西雅圖原本是空地的地方放上建築物,並把西雅圖的一些區域換成北京的綠地。

趙教授使用了 CycleGAN 這種演算法來修改衛星影像,該演算法由加州大學柏克萊分校所開發,並已廣泛使用在許多「照騙」上。CycleGAN 訓練的人工神經網絡可以辨識圖像的特徵質,例如繪圖風格或是地圖上的某種特徵。同時,另一個演算法會偵測某圖片是否被修改過,以增強第一個演算法的效能。

COURTESY OF ZHAO ET AL., 2021, JOURNAL OF CARTOGRAPHY AND GEOGRAPHIC INFORMATION SCIENCE
▲華盛頓州塔科馬市的地圖(左上)和衛星圖像(右上)。下圖經過修改,使塔科馬看起來更像西雅圖(左下)和北京(右下)。

假如說 Deepfake 影片是為了把某人捲進不雅事件,而 Deepfake 照片則可能誤導政府,或在網路上傳播,讓大眾相信假消息,甚至懷疑起真實的資訊。

加拿大麥基爾大學的空間數據科學助理教授葛蘭特・麥肯茲(Grant McKenzie)表示:「我相信這不是會馬上影響普羅大眾的嚴重問題,但是在未來十年內會悄悄地成為重要議題。」麥肯茲並沒有參與本文提及的實驗。

麥肯茲繼續說明:

「你可以想像未來有一個政府,或是任何一位行動人士可以操弄影像,讓你看到照片裡什麼東西都沒有,或是跟現實完全不一樣的東西,我真不知道現在有什麼方法可以阻止這件事情發生。」

幾張修改技術很粗糙的衛星圖片已經在社群媒體上瘋傳,包含一張慶祝印度教傳統節日──排燈節,印度天空被點亮的空照圖,雖然這很容易就看的出來是修過的圖片,但是未來一定會有被改得更逼真的衛星影像出現,目的可能是把存放武器的地點隱藏起來,或讓敵方誤判軍事行動,這是遲早會發生的事。

佳百列・林姆(Gabrielle Lim)是哈佛大學甘迺迪學院肖恩斯坦中心的研究員,媒體操作是她主要的研究項目。她表示就算沒有人工智慧,地圖也能用來誤導大眾。她提到美國眾議院議員亞莉山卓・歐加修・寇蒂茲(Alexandria Ocasio-Cortez)的例子,網路上有幾張圖片顯示她在一月六號國會暴動的時候根本不在現場,跟她先前所說的不一致。另一個例子是中國護照的圖片,在護照中可以看到中國把受爭議的南海地區列為自己的領土。林姆表示:「沒有用到什麼厲害的科技,但是已經可以達到相似的效果。」

空照圖對於數位製圖、天氣追蹤系統、以及投資方向非常重要,因此偽造的空照圖有很高的潛在商業價值。

美國情報單位就表示偽造的衛星影像是個越來越嚴重的問題,美國國家地理空間情報局的發言人表示:「敵方可能用假資訊來影響我們對世界的的理解。」美國國家地理空間情報局是國防部用來蒐集、分析和提供地理空間資訊的單位。

該發言人也指出雖然犯罪科學的技術可以分辨出假照片,但是隨著電腦自動合成圖越來越氾濫,他們需要新的方法來解決問題。

某些軟體可能可以找出改圖的痕跡,例如圖像加工處,或是變更檔案數據,不過 AI 也可以刪除這些加工痕跡,這些造假的人跟抓造假的人就像在玩貓抓老鼠的遊戲,你找我藏。

美國國家地理空間情報局的發言人表示:「民眾已經逐漸意識到了解、驗證、信任消息來源的重要性,而科技是提升人民意識的關鍵。」

找出用 AI 修改的假照片已經成為學界、產業界和政府的重點目標。一些科技巨頭,像是 Facebook,也理解到假消息的嚴重性,因此他們也支持用電腦找出 Deepfake 影片的行動。

華盛頓大學的趙教授正打算找出更多自動識別 Deepfake 衛星圖的方法,他表示靠著研究地景隨時間的改變,可以找出潛在的修改痕跡,他指出:「某一時間點下的空間特徵是很關鍵的線索。」

不過,趙教授也擔心,儘管政府有找出假圖片的技術,民眾可能早就被假消息誤導了,他說:「如果假衛星圖已經在網路上散播,問題就大了。」

責任編輯:Chris
核稿編輯:MindyLi

延伸閱讀:



開發者享受 CI/CD 價值!運用 Amazon EKS 整合 GitLab 創建自動化部署

企業如何在 Amazon EKS(Elastic Kubernetes Services)上使用 GitLab 創建自動化部署,減輕人力負擔,提升專案服務運作效率?
評論
評論

所謂現代化智慧 IT,所有工程師最希望的境界,莫過於只要輕鬆點幾下設定,系統就會自動跑起來,管理者再也不用隨時待命在機台旁邊,從此工作悠哉又快樂!儘管這樣情境還沒到來,但隨著敏捷式開發的流行,除了 DevOps 人員,有越來越多開發者將 CI/CD 概念融入到工作流程當中,例如從 build code、執行 unit test、到部署應用程式。

打造第一個在 AWS 上的應用程式

上述種種反覆步驟自動化執行,也就能提昇服務品質、主動通知開發人員以減輕人力負擔,讓專案服務能持續運作。

其中,GitLab 是執行 CI/CD 常用的工具之一,也是開發者使用程式碼儲存庫的地方。為了讓 GitLab Runner 在雲端快速實踐 CI/CD,《AWS 開發者系列》透過影片分享,如何在 Amazon EKS(Elastic Kubernetes Services)上使用 GitLab 創建自動化部署。

以下節錄工作坊影音內容,幫助開發者快速理解如何運用 Amazon EKS 的高可用性且安全的叢集,將修補、部署節點、更新等關鍵任務,全部做到自動化設定。同時影片也會示範 Amazon EKS 搭配 GitLab 如何展開自動部署,幫助工程團隊實踐 CI/CD 價值。

Amazon EKS 對容器管理輕鬆簡單、維運省時省力

容器化服務越來越興盛,當容器(Container)越來越多,在複雜的微服務(Microservice)系統環境之下,運維團隊的管理成本可能相對會增加不少,為了有效調度容器部署, 導入Kubernetes 無疑是近年企業熱門的話題之一。

建構 Kubernetes Cluster 流主要可區分兩大塊,一是安排容器調度的Control Plane、另一則是容器運行時需要用到的 Worker Node。

Control Plane 裡面涵蓋有儲存狀態的 ETCD、CoController manager 、Scheduler 的調度管理、甚至是操作時進行互動的 APIServer,若是自己創建 的 Kubernetes Cluster ,需要自己安裝這些元件,後續仍需要對 Control Plane 進行相關管理、維護、升級工作。為了減少上述 Components 的繁複維護,在透過 AWS EKS 代管的 Kubernete Control Plane 部可以獲得以下三大好處。

透過 AWS 增加雲端技能 在組織發揮影響力

Amazon EKS 一鍵式部署,展現三大優勢

第一,Amazon EKS代管的 Control Plane實踐了跨AZ的高可用部署,使用者不需要擔心單一節點故障的風險。

第二,Amazon EKS 支持至少四個 Kubernetes版本,持續跟進每季 CNCF 的發佈,同時 EKS 也完全符合上游 CNCF 規範。

第三,部署 Amazon EKS 之後,可直接使用 AWS 平台上現成的服務工具,在安全性管理、網路設定方面,可以做到無縫整合。

最後 AWS 台灣解決方案架構師也提到,若想在容器環境進行 CI/CD 及應用程式的管理,可以進一步透過 IaC 整合部署 Amazon EKS 叢集,透過使用 Console、把 EKS 變成 Cloudformation 的模板、使用 AWS 所開發出來的 eksctl.io、或指令是採用 AWS CDK 可以讓開發者用自身熟悉的語言,在 AWS 平台整合 CI/CD 工具進行維運及部署 EKS。

了解 Amazon EKS 整合 GitLab ,獲得三面向價值

對開發者而言,想把 Amazon EKS 整合到 CI/CD 工具之一的 GitLab 平台上,可以看到那些實際的優勢?

在 DevOps 開發者示範工作坊當中,GitLab 資深解決方案架構師指出,GitLab 使用到 Kubernetes 技術,主要有三種搭配方法,包含 GitLab Server、GitLab Runner、以及創建 Deployment Environment。

本次示範教學會主要聚焦在 GitLab Runner 如何採取 Auto-scaled 方式進行 Build、Test、Package Apps;以及在 Deployment Environment 運用 Kubernetes 技術,做到 Auto Deploy、Review App。

正因為 Amazon EKS 能夠在 DevOps 過程提供所需要的彈性計算資源,幫助開發者在 GitLab 平台上面獲得以下三個層次的優勢:

  • 在 GitLab 內建的部署工作流程當中,自動生成整套 CI/CD 最佳實踐腳本。
  • Review App 過程,從 Merge Request 中可直接訪問應用程式 /App 的 UI 介面,並且根據 Git branch 名稱、專案名稱,自動生成 Review App 的 URL,以及在 Merge 前的最後防線進行 Approval 檢查。
  • 加速 CI/CD 流水線,GitLab Runner 運行時候還可藉由 Amazon EKS Cluster 進行 Auto-scaled 的支援。

Amazon EKS 整合 GitLab ,需要兩大流程

影片最後,GitLab 資深解決方案架構師示範如何把 Amazon EKS 整合至 GitLab 執行 Auto Deploy,主要可分為兩大區塊流程,第一部分聚焦在 Amazon EKS cluster 的設置,第二部分則執行 Auto Deploy 設置。

第一塊可拆分為四個階段,首先教學怎麼創建 EC2 節點的 EKS cluster,第二階段示範把 EKS Cluster 連接到開發者的 GitLab Instance、Group 或 Project,下一步則使用 Cluster Management Project Template 創建一個 Cluster Management Project,以及最後一階段透過 Cluster Management Project 自帶的 Helm Chart,安裝在 Cluster 所需要的內建 App。

第二塊執行 Auto Deploy 設置,針對需要部署的 App 創建一個 GitLab Project,接著再把 gitlab-ci.yml 添加到 Project,並從 Web IDE 選擇及導入 Auto Deploy 的 CI 模版,讓 GitLab 自動生成最佳實踐的整套流水線。

幫助開發者更了解 Amazon EKS 整合 GitLab 的 QA 系列

Q:使用 Amazon EKS 之後,如何更有效率或優化資源去配置 Worker Node 的機器數量,以及如何有效空管開發維運的成本?

A:Kubernetes 除了本身有 HPA(Horizontal Pod Autoscaling)可根據使用程度自動調整資源流量,另外也能延伸使用 AWS Auto Scaling 方案,針對可擴展資源去設定自動擴展管理。另外在成本管控,雖然 Amazon EKS 會收取額外管理費用,但可透過 AWS 平台的 Calculato r計算每個 EKS 的價格,你會發現自動化部署及管理的費用,相對工程師人力的成本更加便宜。

Q:越來越多客戶考慮把現有 Application 變成容器部署,大多是爲了加快部署的效率,那麼變成容器模式之後,對 CI/CD 的工作流程有什麽影響嗎?

A:運用容器技術最直接的效果,可以讓應用程式的環境更一致化,例如 testing 環節、stage production,讓容器避開一些差異問題。至於 CD 部分要 delivery 一些 usage 不太一樣的時候,容器會幫忙做配置,所以 CI/CD 對容器的效益是相輔相成的。

Q: 客戶在開發流程漸漸會把 Infrastructure 變成代碼或文檔,是不是可以把程式碼跟現有的應用程式的 CI/CD 流水線整合在一起,達到一套完整的 CI/CD 部署流程?

A:觀察目前市場作法,主要分成兩個階段去做整體部署。如果規模比較小的團隊,會把 Infrastructure 代碼跟 App 代碼分開,在管理上會比較靈活;如果企業規模比較大,會有另外一個 Infrastructure 團隊來控制部署事情,這種情况之下,APP 的項目會生成一個 APP package,主要做到 delivery 這個階段爲止。而 Infrastructure 的項目會指定把需要版本的文檔,部署到他們的 Kubernetes Cluster。

填寫表單 找到適合的快速上雲服務與工具!