超過三千名Google員工訴求拒絕五角大廈合作人工智慧武器:公司不應發戰爭財!

Google 員工於近日發表公開信,反對 Google 參與美國國防部的人工智慧項目,已有超過 3100 人簽名。這封公開信的訴求為: Google 不應捲入戰爭, Google 及其供應鏈生態永應不發展戰爭科技。
評論
評論

原文來自 虎嗅網 ,INSIDE 授權轉載。

Google 員工於近日發表公開信,反對 Google 參與美國國防部的人工智慧項目,已有超過 3100 人簽名。這封公開信的訴求為: Google 不應捲入戰爭, Google 及其供應鏈生態永應不發展戰爭科技。請求公司撤出美國國防部項目 Project Maven。

美國國防部五角大廈。Photo: CC0

外媒爭先恐後對此事進行了報導:

1.  五角大廈使用 Google 的 TensorFlow API,以此來分析無人機鏡頭拍攝到的畫面。

2. Google 控股母公司的執行董事會成員,該公司前執行董事長 Eric Schmidt,同時也擔任國防創新委員會 (Defence Innovation Board) 的成員。

3. 美國國土安全部斥資 150 萬美元與 Google 及其競賽平台 Kaggle 合作,尋找新的演算法來識別由機場安全機構掃描儀檢測到的物體。

事件一出,立刻有外部反對人士稱,儘管公司應該聽取員工的意見,但是員工也應該清楚,公司作為一個管理型組織,不應該用民主的方式決策。由此可見,反對人士的意見正好反應了他對 Google 文化的無知,「透明」是 Google 核心文化理念之一。

什麼是透明的企業文化呢?講直接點就是公司文化氣氛、支

持員工和高層管理人員進行各種形式的公開交流。很多企業就算有類似的形式,但是文化不支持,員工見了管理層也不敢說什麼。確實,透明能培育出正直、負責和公開的文化,而不是企業員工間相互流傳的猜測與猜疑。讓團隊之間充滿了焦慮與不信任感。

好的企業文化能夠建立人與人之間彼此需要的連結,這種連結能夠給人力量。但也有分析人士在媒體中指出,熟知信件內容的多名 Google 員工僅在匿名條件下發聲,這表示出他們可能還是擔心被揪出來秋後算賬。可是公開信發出後,超過 3100 人簽名,證明員工對矛盾和衝突的認同度非常高,他們願意參與、願意討論。

Google 員工敢這樣明目張膽地和公司管理層唱反調,主要原因是 Google 員工覺得「自己不一樣」。 在收到公開信後, Google 相關發言人給《紐約時報》的一份聲明顯示,首先認可員工與公司公開交流這一形式。將其定性為「非常重要而且有益」。但他並沒有提到任何為該項目踩剎車的計劃。聲明也強調,五角大廈使用的技術可以用於「任何 Google 雲端服務的客戶」,而且只會用於「非攻擊目的」。

Google 長久以來的 "Don't be evil." 格言。Photo credits: Flickr/tangi bertin

Google 發言人表示:「我們長期與政府機構合作提供技術解決方案。這個特定的項目是國防部的試點項目,提供開源 TensorFlow APIs。該技術能夠標記圖像,並且僅用於非冒犯性用途。機器學習在軍事領域的應用自然引起關注。我們正在內部和其他人積極討論這個重要議題,因為我們將繼續圍繞開發和使用我們的機器學習技術制定政策和保護措施。」

我們透過 Google 員工公開信本身,來看看究竟是什麼引發了 Google 內部的爭論。

 

美國國防急需擁抱矽谷科技公司

首先,美國國防部項目 Project Maven 背景了解一下。

反恐戰爭中,恐怖組織通過購買而獲得實施恐怖主義襲擊所需要的技術,其對先進技術的使用引髮美國國防部反思,尤其對比美國國防系統相對落後的訊息技術。在 2000 年至 2008 年間,科技網際網路技術的迅猛發展和美國國防訊息技術的老態龍鍾形成鮮明對比。美國國防部是知名的官僚機構,其官僚文化根深蒂固,創新的阻力和難度可想而知。「我們沒有動力去擁抱風險。」類似這樣的說法,早已是國防部各級人員的共識。

在此背景下,各類項目應運而生,希望能夠打破僵化官僚與守舊文化,Project Maven 是其中之一。前文中提到的 Google 控股母公司執行董事會成員,同時也擔任國防創新委員會的成員,這也可以被視為是美國國防部吸納專業科技董事會角色的重要舉措。

為什麼美國國防部的項目 Project Maven 會找到矽谷科技巨頭 Google 公司?主要是為了獲得最新技術,需要商用技術創新來解決國防需求。其實美國國防部的思維也很簡單,缺什麼買什麼,買買買,不缺錢。

 

 人工智慧戰爭演算法首當其衝

目前,美國空軍正在採取行動,將人工智慧納入其運作,美國國防部早已經發現人工智慧技術滿足軍事情報的各項需求。他們的第一個項目就是 Project Maven,將使用人工智慧和機器學習來快速篩選無人機拍

攝的畫面,收集有用的情報。早在 2017 年 4 月美國國防部常務副部長就簽署備忘錄推出 Project Maven,啟動無人機全動態影片人工智慧演算法項目,以提高無人機影片處理、發掘與分發過程的自動化水平。

這一項目利用人工智慧演算法,將無人機戰場上獲得的海量數據通過機器學習的方式進行分析與挖掘,轉化為有價值的行動情報和軍事洞見,開啟了人工智慧軍事應用的先河,是美國國防部戰場人工智慧技術應用進程的重要里程碑。

目前讓人頭痛的問題是,分析人員需要花費大量的時間或者數小時來觀看影片,以找到有價值的內容。如果項目成功應用成功,將會降低軍事情報人員的時間成本。

實際上,美國國防部對人工智慧並不陌生:

2017 年 4 月,空軍展示了一種能夠自行運行的實驗性 F-16 戰鬥機。Photo credit: The National Interest

2017 年 5 月,美國海軍陸戰隊開始測試一種遙控機槍機器人,並表示希望自動化。這均意味著美國希望在現在正在進行的人工智慧軍備競賽中領先對手。

Project Maven 被稱為探路者型項目,也成為我們熟知的「試點項目」。

美國國防部的態度已經表達得很清楚——全面擁抱人工智慧。而 Google 員工明確公開反對參與的,也是項目 Project Maven。

 

亞馬遜、 Google 、微軟搶政府訂單

在雲端服務方面,美國國防部也找矽谷科技公司合作,其中就包括 Google 。此外,亞馬遜曾面向美國國防部不遺餘力地宣傳其圖像識別研究成果,微軟早前已與美國政府簽訂了雲端服務合約,能夠為軍事和國防機構處理機密訊息。現在 Google 員工公開表示不接受美國國防部這一超級大客戶的訂單,而微軟和亞馬遜對於美國國防部的訂單卻是非常熱情,兩種情況形成了鮮明的對比。

為了雲端服務,美國國防部還擬定了向科技企業採購雲端服務的專項計劃——與企業合作型國防基礎設施雲端服務 (Joint Enterprise Defense Infrastructure Cloud)。美國國防部當然知道雲端服務在未來戰爭中的基礎性重要意義,向擁有該技術的行業巨頭購買無疑是最好的選擇。問題在於是買哪一家,只買一家,還是幾家一起買。

該專項計劃旨在使用雲基礎設施來實現標準化和提高安全性,幫助國防部門擁有更好的訊息共享和計算能力,從最小作戰單位到指揮官都能夠利用成果在戰爭中獲得即時訊息,更好地為作戰決策。值得一提的是,美國國防部在宣傳這個專項計劃的時候,提到了「減少作戰人員傷亡」等。可眾所周知,除了製造死亡機器外,國防部不會用它搞其他事情。而這次,國防部首席管理官約翰吉布森 (國防部三號人物僅次於部長副部長)在回答媒體問題時,直言這次合作的部分原因是為了「提高殺傷力和作戰準備」。

另外有說法稱, Google 也會與亞馬遜、微軟競爭美國國防部開出的巨額訂單。我們暫時無法確認這種說法是否屬實,但可以知道的是,過去 Google 一直對採取軍事項目持謹慎態度,並竭力避免成為軍事工業的一部分,這種觀念甚至成為公司不成文的共識。舉個例子:2013 年,在收購了與軍事研究機構有聯繫的機器人公司之後, Google 曾拒絕了國防高級研究計劃局 (DARPA) 的資金。

一些業內觀察人士還說,與企業合作型國防基礎設施雲端服務計劃旨在提供雲端服務解決方案,以支持國防部的非保密、秘密和絕密要求。而美國國防部開出的雲端服務訂單,總額可能會達到 20 億美元。大家可以腦補一下畫面,美國某個科技公司在官網貼出寫著「美國國防部雲端服務唯一合作夥伴企業」的宣傳頁,這看起來是不是很恐怖?科技公司參與戰爭,這宣傳究竟是正面還是負面?

 

美國空軍想把人工智慧技術引入到情報工作中

此外還有一點,中國的人工智慧投資者也需要注意。負責國防情報局作戰支持的主管曾向路透社透露,他們注意到類似的圖像識別技術由矽谷科技公司研發,也會被軍事敵對方所用。所以從 2012 年開始,研究機構 (CB Insights) 便開始追踪由中國投資、在美國發展的人工智慧科技公司,數量達到了 29 家。這位主管還認為,當中國投資一家開發先進技術的創業公司時,美國需要承受機會成本,因為中國 (投資方) 可能禁止這家公司與美國國防部合作。

 

總結

這封公開信會對 Google 內部造成多大影響還有待觀察, Google 與政府之間的微妙博弈肯定也還會持續。但關鍵在於, Google 是否能探尋出科技公司的人工智慧技術與現代國防軍事的邊界究竟在哪裡,以及該如何對這樣的邊界加以控制。經常聽人說科技沒有國界,可軍事的存在其實就是國界的存在,這將是一個上升到人類未來與科技未來的大議題。


【一圖看懂】民生基礎建設的資安防禦為何重中之重?ACW SOUTH 沙崙基地打造天然氣、石化、變電所三大測試場域為大眾保駕護航

這幾年的新冠疫情、俄烏戰事奪走許多寶貴生命,讓網路流行一句「你的歲月靜好,是有人為你負重前行。」當我們能夠安居樂業過著恬靜生活,其實是仰賴一群人在社會各個角落堅守崗位,多數人才能享受無虞的生活及安全的家園。
評論
Photo Credit:TNL Brand Studio
評論

我們在食衣住行許多方面皆與水、電、天然氣等資源息息相關,在高度數位化的現代,臺灣在面對這些資源的基礎建設時,網路安全的防禦為何比其他國家更需謹慎面對?這件事可以從俄烏戰爭獲得啟發。

Photo Credit:TNL Brand Studio

從俄烏戰爭居安思危,臺灣每月面臨 4000 萬次的網路攻擊

有人說如果有一天真的發生第三次世界大戰,那一定會發生在網路上。從近期的俄烏戰爭來看,除了使用傳統槍砲坦克,更值得注意的是雙方都派出大量 IT 駭客,攻擊對方的油水電重要基礎建設的伺服器、通訊設施,企圖阻斷即時資訊,藉此癱瘓敵方的民生設備運作。

事實上,一般駭客不會主動攻擊一個國家的基礎建設,大多是鎖定企業等級為目標,像是美國燃油管線營運公司,受到來自東歐的勒索病毒攻擊,被迫暫停營運同時還要支付新台幣 1 億 4,000 萬元的贖金,造成當地民眾恐慌,發生一波搶購燃油熱潮。

而臺灣因為政治戰略的因素,外部駭客總是虎視眈眈,想要癱瘓我國的民生關鍵基礎設施。過去幾年間臺灣每月平均受到 2,000 萬到 4,000 萬次外來攻擊,甚至懷疑一起大型惡意軟體攻擊,幕後的駭客是有國家力量在撐腰。

臺灣民生建設資安防禦迫在眉睫,ACW SOUTH 沙崙基地扮演關鍵角色

身為島國的臺灣,電力、石油、天然氣及水利等資源設備,是供應國內經濟發展及民生需求的重要資產。面對各項能源設備資安的防護,我國經濟部長王美花過去就曾公開表示,「油電水等關鍵設施假使被破壞,後果不堪設想,所以資安是重要基本功,一定要發展做好防護措施。

身為國內首屈一指的「ACW SOUTH 沙崙資安服務基地」(以下簡稱 ACW SOUTH 資安基地),承接起重責大任,提供資安實驗場域,模擬攻防演訓及產品驗測服務;也會邀請資安服務廠商與工控營運業者到沙崙場域,進行實作的技術交流。

ACW SOUTH 資安基地計畫團隊表示,「透過資安服務商與工控營運業者的交流分享,有助促進產業對於工控資安了解與場域運用;同時我們也會辦理工控資安等相關課程、研討會及交流會,鏈結資安與工控業者幫助雙方有更深入的技術合作。」

目前 ACW SOUTH 資安基地的「關鍵基礎設施工控場域」主要有「石化/化工、天然氣及變電所」三套系統,模擬五套攻擊劇本,協助相關基礎設備的管理者,在受到攻擊當下知道該如何反應,及早因應強化資安防禦實力。萬一遭遇偽造工作站監看數據、偽造命令操控電磁閥和空壓機、電驛傳輸通訊中斷等攻擊事件,就能立刻啟動應變流程。

走訪 ACW SOUTH 資安基地關鍵基礎設施,了解三大測試場域功能有多強

場域一、石化基礎設施
2020 年臺灣兩大石化公司接連傳出資安攻擊事件,部分資訊系統感染勒索軟體病毒,造成加油站的支付系統停擺,導致消費者付款機制受到影響。

ACW SOUTH 資安基地提供的化工模擬製程實體運作機櫃,是全台首座「石化/化工製程水位控制平台」,模擬情境為一般化工反應槽連續式循環水流水位控制,以水為循環流體模擬,可提供研究測試與訓練使用、自主開發攻防情境。來現場測試的業者,可透過視覺式監控介面與 DCS 收集現場監測儀表的即時資訊,做到收集完整數據紀錄及警報,具體測試資安防護設備與解決方案。

場域二、天然氣基礎設施
美國一家天然氣壓縮公司曾經受到勒索軟體攻擊,駭客透過魚叉式網釣攻擊入侵 IT 網路,再找機會滲透到 OT 網路,並在這兩個網路部署勒索軟體,導致人機介面、伺服器完全失能,公司業務被迫停擺兩天。

ACW SOUTH 資安基地的儲槽氣體壓力監控系統,模擬情境為天然氣廠氣體儲槽壓力,使用空壓機模擬天然氣體,當氣體壓力高於或低於警報值時,系統畫面警示工作站主機,並同時記錄數據變化、警報和事件。

場域三、變電所基礎設施
2021 年台電董事長說台電遭駭客攻擊幾乎每天發生;俄烏戰爭過程,俄羅斯駭客也曾嘗試對烏克蘭發電廠下手,利用資料破壞軟體發動攻擊,藉此癱瘓高壓變電所,讓烏克蘭當地無電可用。

電力系統無論在發電、輸電及配電的任一部分發生故障,都有可能影響整個供電系統異常,因此保護電驛的作用就在及早隔離故障,避免影響到後續的相關設備。ACW SOUTH 資安基地的保護電驛監控系統採用 IEC61850 標準來進行網路通訊,可用來監視、記錄電驛突發事件,藉此模擬變電所遭受攻擊的危機處理。

要讓臺灣關鍵基礎設施免於駭客襲擊,可說是天方夜譚,但我們能做的是提升資安、強化防禦韌性,更有餘裕時間來防禦或補救攻擊。ACW SOUTH 資安基地的關鍵基礎設施,目前打造了三大測試場域,擁有可實際演練的攻防腳本,並進行資安產品的驗測。

ACW SOUTH 資安基地深知臺灣以製造業起家,尤其近年半導體領域成為舉世聞名的護國神山;另外因應全球淨零碳排議題,綠能也是前景可期的重要產業。因此在 ACW SOUTH 資安基地除了有關鍵基礎設施,還設計智慧製造、智慧綠能、半導體及物聯網等主題,可為相關業者做攻防演訓及產品驗測,有助提升我國整體資安防禦力。

「經濟部工業局 廣告」