【Wired 硬塞】美國國防部靠「自駭」來化解美軍的 AI 弱點

美國國防部新成立的「紅隊」,正在學習預測和化解針對 AI 的攻擊。
評論
Photo Credit:iStock
評論

原文來自 Wired《The Pentagon Is Bolstering Its AI Systems—by Hacking Itself》,作者 Will Knight。台灣康泰納仕集團授權提供,由 Amber Peng 翻譯並經 INSIDE 編審。

對於美國國防部而言,AI 無疑是未來用來智取、掌控敵人的最佳武器。但是,AI 多變的本質反而可能讓美國一不小心就給了敵軍反將一軍的機會。

美國國防部的「合作人工智慧中心(Joint Artificial Intelligence Center,以下簡稱JAIC)」旨在幫助美軍利用 AI 作戰,而近期他們又成立了一個組織,專門收集、審查、分派公開資源和企業機器學習模型到國防部各部門,為的是解決一個軍方在利用 AI 時遇到的大難題。

機器學習中的「紅隊」,也就是測試與評估組,專門找出已訓練好的模型的弱點,另外資安組則負責找出潛藏的程式碼和資料的缺陷。

機器學習是現代 AI 背後的關鍵技術,它代表著一種全然不同的寫程式方法,且在許多方面都比傳統的程式更加強大。它不是單純地寫出一套規則讓電腦執行,而是從資料面下手,創造出自己的規則。但問題是,這種方式只要遇到錯誤的訓練資料,電腦模型就可能做出奇怪、無法預期的行為。

JAIC 的策略與政策總監古格雷・艾倫(Gregory Allen)表示:「機器學習在許多應用程式都比傳統軟體好上千千萬萬倍。」但是他也指出,機器學習可能出錯的地方也跟傳統軟體很不一樣。

比如說,被訓練來辨認衛星圖裡車輛的電腦,也可能學習將車子與特定的顏色跟周圍景觀連結起來,那麼敵方就可以透過更改車輛周圍的景觀來騙過電腦。只要他們可以進到訓練資料庫,敵方甚至可以把其他的影像移植進去,例如放入某些特定的符號,這樣一來電腦就無法做出正確判斷。

艾倫指出,國防部對於軟體的可靠性和安全性有一套很嚴格的法規,這套法規也適用於 AI 和機器學習,同時,JAIC 也正在調整國防部的標準,以涵蓋更多機器學習的面向。

馬里蘭大學資工系副教授湯姆・高斯坦(Tom Goldstein)表示:「我們目前還不知道怎麼設計出一個可以躲避對手攻擊的系統。」

AI 正在翻轉企業營運的方式,因為這種強大的工具可以很有效率地將各種程序和任務自動化。比如來說,與其寫一套演算法預測消費者的喜好,AI可以從過去幾百萬條的銷售紀錄中找出規則,並預測不同顧客的消費傾向。

美國和其他國家的軍方也看見了 AI 的優點,並急著用 AI 改善軍事物流、情報蒐集、任務規劃、武器科技,而中國日益強大的科技更讓美國國防部急著投入 AI 技術。

艾倫認為美國國防部正以「安全性和可靠性為前提,謹慎地前進」。

研究人員正試圖以全新的方式去駭入並破解使用中的 AI 系統。2020 年 10 月,以色列研究人員用精修過的圖片成功混淆了特斯拉判斷路況的演算法。這種「對抗式攻擊」就是利用精修過的圖像,讓演算法學習找出可能造成重大錯誤的細微變化。

加州大學柏克萊分校教授宋達恩(音譯 Dawn Song)也在特斯拉的感應器和 AI 系統做了相似的實驗,她表示演算法遭受的攻擊在許多領域都已經造成問題,例如詐騙偵測。她指出:「許多公司都有提供測試金融領域 AI 系統的工具,但是駭客會想辦法躲避偵測,我認為這種問題會越來越嚴重。」

微軟於 2016 年推出的聊天機器人 Tay 就是一個惡名昭彰的例子。Tay 用演算法分析以前的談話紀錄來學習與人對話,而社交平台 Reddit 的使用者很快就發現他們可以利用 Tay 的學習方式讓她講出充滿仇恨的言論。

高斯坦是馬里蘭大學專門研究機器學習弱點的教授,他表示攻擊 AI 有很多種方式,例如修改餵入 AI 的資料,讓電腦做出特定的行為。他認為機器學習和傳統軟體的差別在於只要可以進入電腦模型,例如餵入誤導性資料,就可以讓敵方設計出無法抵抗的攻擊。高斯坦表示:「目前我們不知道要如何改善 AI 的弱點,也不知道如何防範這種對抗性攻擊。」

對於軍方而言,他們必須假設對手已經掌握豐富資源和先進技術,因此預測和防範所有可能的攻擊是非常重要的任務。

喬治城大學的安全與新興科技中心於一份報告中警告,AI 中的「有害資料」可能造成國安威脅,其方法是進入訓練 AI 的模型,操弄餵入演算法的圖像標記,或是將特定圖片放到 AI 抓資料的網站上。

該報告的作者安德魯・隆恩(Andrew Lohn)讚許 JAIC 特別組成一個團隊來找出 AI 弱點。他認為因為不了解私營部門開發 AI 的方式,所以要確保私營部門的 AI 安全性也比較困難。另外,找出有害資料也是一項艱鉅的挑戰,因為人眼很難直接看出資料被修改的痕跡。

隆恩也指出,美國國防部很可能已經在加強自己的攻擊能力,以及開發阻擋對抗式攻擊的方法,但是當務之急還是保護軍方的 AI 系統。隆恩表示:「我們也可以主動攻擊,但是我們仍然得先保護自己。」JAIC 總監的艾倫並沒有回應美國是否真的在加強軍方的攻擊能力,。

許多國家已經規劃了他們國家的 AI 發展策略,希望能有效地利用這種強大的工具以刺激經濟發展,尤其是美中的科技巨頭正爭奪 AI 商業化和出口 AI 技術所帶來的好處。

艾倫認為在 AI 領域取得領先的地位可對國家帶來策略性的優勢,那麼用來推動軍事供應鏈和分析關鍵資料以利決策的演算法必須受到嚴密的保護。

艾倫表示:「如果你的執行規模非常龐大、技術極其複雜、又處在攸關生死的情況下,你需要非常卓越的技術以確保系統會以預期的方式執行。」

責任編輯:Chris
核稿編輯:Anny

延伸閱讀:



疫情升溫,數位轉型不能等!報名 6/30 AWSome Day 即刻啟動企業上雲

疫情正大力促進數位轉型,而我們只能選擇跟上。免費報名全球雲端服務供應龍頭 AWS 於 6 月 30 日下午舉辦的「AWSome Day 線上雲端培訓日」,展開雲端之旅重要第一步。
評論
評論

台灣疫情升溫,每日確診人數已破萬人大關,愈來愈多民眾被匡列居家隔離,遠端工作、混合辦公模式成為企業不得不採取的措施。此時此刻,台灣才正要體驗過去兩年國外經歷過的「疫情現實」,這也意味著企業必須立刻採取行動進入雲端、展開數位轉型;而個人也必須提升雲端技能,以維持在疫情時代的競爭力。

為了幫助企業/個人能迅速具備數位轉型思維與基礎技能,雲端服務供應商龍頭 AWS(亞馬遜網路服務公司)於 6 月 30 日下午舉辦「AWSome Day 線上雲端培訓日」,開放任何想了解雲端服務與數位轉型的人士免費報名參加

疫情正大力促進數位轉型,而我們只能選擇跟上。

企業上雲、數位轉型是必然趨勢

網路時代與經濟全球化,企業必須不斷創新與成長,才能在市場上保有生存空間與競爭力。而數位轉型的思維、善用雲端工具,是必然的趨勢。數位轉型是一趟漫長且無止盡的路,而且幾乎當代所有的企業(無論規模大小)都必須迎接這項考驗;「數位轉型」意味著善用科技工具,為每一項任務帶來最有彈性且高效率的結果。

對此,Amazon web services(亞馬遜網路服務公司)從很早開始便分享自身經驗與雲端服務技術,帶領全球包含輝瑞、Meta 臉書及 BMW 等知名企業踏上數位轉型及創新之路,邁向穩定的成功。具體而言,AWS 可以幫助企業做到至少這三件事:

  1. 花更少的時間來構建與管理 IT 基礎架構,使企業專注本業創新
  2. 將地端固定成本(資料中心、實體伺服器等)轉化變動費用,透過規模經濟大幅節省企業支出
  3. 提供高可用、高擴展具彈性的雲端服務與技術,因應企業各種業務需求

立即報名 6 月 30 日 AWSome Day 線上雲端培訓日

AWS 雲端服務能為企業帶來最安全、節省的解決方案

對初探雲端世界或數位轉型剛起步的使用者來說,常見的迷思不外乎是「資安、費用」兩大項,對此,AWS 也都給予真實且有效的回應。AWS 作為全球數一數二的雲端供應服務商,資安等級不言而喻,AWS 打造的核心基礎架構可滿足軍隊、全球銀行及其他高度機密組織的安全性需求。支援 90 項安全標準和合規認證,且儲存客戶資料的所有 117 項 AWS 服務均提供加密該資料的能力。

此外,AWS 更不斷創新功能,確保資安維護無虞。而採用 AWS 的雲端服務,是依據實際雲端服務使用量採取實支實付,更能幫企業節省成本。AWS 提供跨產業、跨規模、跨技術的雲端服務,無論是廣告行銷、金融服務、遊戲技術、媒體娛樂的產業需求,或是尋找分析和資料湖、機器學習、無伺服器運算、儲存等解決方案,都能在 AWS 找到解答,甚至進一步透過 AWS 獲得來自全球的資源與合作夥伴。

因此,無論是資訊主管、IT 及技術經理、開發團隊、工程師,或是毫無背景但有志成為雲端技術服務的從業人員,甚至雲端小白,都能在 6 月 30 日 AWSome Day 線上雲端培訓日有所收穫,為自身企業需求開啟重要的第一步。

立即報名 6 月 30 日 AWSome Day 線上雲端培訓日

立即報名 6 月 30 日 AWSome Day 線上雲端培訓日,展開雲端之旅

總之,AWS 雲端服務的強大功能與優勢,唯有親身體驗才知道。在 AWS 定期舉辦專為入門者打造的「AWSome Day 雲端培訓日」中,將有原廠資深課程講師深入淺出地實作示範,一步步帶領大家了解雲端技術以及 AWS 服務,並且一一破解雲端議題相關的迷思。此外,報名活動並全程參與線上培訓者,還有多重好禮與抽獎機會(詳見下圖),歡迎對雲端世界有興趣的初心者報名參加。

立即報名 AWSome Day 雲端培訓日!報名即享免費試用服務

  • 時間:2022 年 6 月 30 日(四)13:30-16:45
  • 地點:線上參加,報名後將收到專屬連結
  • 注意事項:
  1. 請點選報名連結,填寫資料後即可完成報名。
  2. 在本課程中,專業講師也會分享如何透過 AWS 帳戶免費使用高達 200 多種服務,為提高課程參與,建議您可於課前註冊 AWS 帳號,以便在課程中同步操作體驗。
  3. 於 5/ 20~7/8 間完成新戶帳號註冊,還可獲得 AWSome day 加碼限定好禮「AWS客製三合一數據線」!(AWS 帳號註冊為免費,註冊完成會試刷一筆 1 元美金驗證您的信用卡,並於下期帳單退還;AWS 帳號註冊須提供英文住址,可參考中華郵政中文住址英譯服務。)
  • 講師陣容與精彩議程如下圖: