超過三千名Google員工訴求拒絕五角大廈合作人工智慧武器:公司不應發戰爭財!

Google 員工於近日發表公開信,反對 Google 參與美國國防部的人工智慧項目,已有超過 3100 人簽名。這封公開信的訴求為: Google 不應捲入戰爭, Google 及其供應鏈生態永應不發展戰爭科技。
評論
評論

原文來自 虎嗅網 ,INSIDE 授權轉載。

Google 員工於近日發表公開信,反對 Google 參與美國國防部的人工智慧項目,已有超過 3100 人簽名。這封公開信的訴求為: Google 不應捲入戰爭, Google 及其供應鏈生態永應不發展戰爭科技。請求公司撤出美國國防部項目 Project Maven。

美國國防部五角大廈。Photo: CC0

外媒爭先恐後對此事進行了報導:

1.  五角大廈使用 Google 的 TensorFlow API,以此來分析無人機鏡頭拍攝到的畫面。

2. Google 控股母公司的執行董事會成員,該公司前執行董事長 Eric Schmidt,同時也擔任國防創新委員會 (Defence Innovation Board) 的成員。

3. 美國國土安全部斥資 150 萬美元與 Google 及其競賽平台 Kaggle 合作,尋找新的演算法來識別由機場安全機構掃描儀檢測到的物體。

事件一出,立刻有外部反對人士稱,儘管公司應該聽取員工的意見,但是員工也應該清楚,公司作為一個管理型組織,不應該用民主的方式決策。由此可見,反對人士的意見正好反應了他對 Google 文化的無知,「透明」是 Google 核心文化理念之一。

什麼是透明的企業文化呢?講直接點就是公司文化氣氛、支

持員工和高層管理人員進行各種形式的公開交流。很多企業就算有類似的形式,但是文化不支持,員工見了管理層也不敢說什麼。確實,透明能培育出正直、負責和公開的文化,而不是企業員工間相互流傳的猜測與猜疑。讓團隊之間充滿了焦慮與不信任感。

好的企業文化能夠建立人與人之間彼此需要的連結,這種連結能夠給人力量。但也有分析人士在媒體中指出,熟知信件內容的多名 Google 員工僅在匿名條件下發聲,這表示出他們可能還是擔心被揪出來秋後算賬。可是公開信發出後,超過 3100 人簽名,證明員工對矛盾和衝突的認同度非常高,他們願意參與、願意討論。

Google 員工敢這樣明目張膽地和公司管理層唱反調,主要原因是 Google 員工覺得「自己不一樣」。 在收到公開信後, Google 相關發言人給《紐約時報》的一份聲明顯示,首先認可員工與公司公開交流這一形式。將其定性為「非常重要而且有益」。但他並沒有提到任何為該項目踩剎車的計劃。聲明也強調,五角大廈使用的技術可以用於「任何 Google 雲端服務的客戶」,而且只會用於「非攻擊目的」。

Google 長久以來的 "Don't be evil." 格言。Photo credits: Flickr/tangi bertin

Google 發言人表示:「我們長期與政府機構合作提供技術解決方案。這個特定的項目是國防部的試點項目,提供開源 TensorFlow APIs。該技術能夠標記圖像,並且僅用於非冒犯性用途。機器學習在軍事領域的應用自然引起關注。我們正在內部和其他人積極討論這個重要議題,因為我們將繼續圍繞開發和使用我們的機器學習技術制定政策和保護措施。」

我們透過 Google 員工公開信本身,來看看究竟是什麼引發了 Google 內部的爭論。

 

美國國防急需擁抱矽谷科技公司

首先,美國國防部項目 Project Maven 背景了解一下。

反恐戰爭中,恐怖組織通過購買而獲得實施恐怖主義襲擊所需要的技術,其對先進技術的使用引髮美國國防部反思,尤其對比美國國防系統相對落後的訊息技術。在 2000 年至 2008 年間,科技網際網路技術的迅猛發展和美國國防訊息技術的老態龍鍾形成鮮明對比。美國國防部是知名的官僚機構,其官僚文化根深蒂固,創新的阻力和難度可想而知。「我們沒有動力去擁抱風險。」類似這樣的說法,早已是國防部各級人員的共識。

在此背景下,各類項目應運而生,希望能夠打破僵化官僚與守舊文化,Project Maven 是其中之一。前文中提到的 Google 控股母公司執行董事會成員,同時也擔任國防創新委員會的成員,這也可以被視為是美國國防部吸納專業科技董事會角色的重要舉措。

為什麼美國國防部的項目 Project Maven 會找到矽谷科技巨頭 Google 公司?主要是為了獲得最新技術,需要商用技術創新來解決國防需求。其實美國國防部的思維也很簡單,缺什麼買什麼,買買買,不缺錢。

 

 人工智慧戰爭演算法首當其衝

目前,美國空軍正在採取行動,將人工智慧納入其運作,美國國防部早已經發現人工智慧技術滿足軍事情報的各項需求。他們的第一個項目就是 Project Maven,將使用人工智慧和機器學習來快速篩選無人機拍

攝的畫面,收集有用的情報。早在 2017 年 4 月美國國防部常務副部長就簽署備忘錄推出 Project Maven,啟動無人機全動態影片人工智慧演算法項目,以提高無人機影片處理、發掘與分發過程的自動化水平。

這一項目利用人工智慧演算法,將無人機戰場上獲得的海量數據通過機器學習的方式進行分析與挖掘,轉化為有價值的行動情報和軍事洞見,開啟了人工智慧軍事應用的先河,是美國國防部戰場人工智慧技術應用進程的重要里程碑。

目前讓人頭痛的問題是,分析人員需要花費大量的時間或者數小時來觀看影片,以找到有價值的內容。如果項目成功應用成功,將會降低軍事情報人員的時間成本。

實際上,美國國防部對人工智慧並不陌生:

2017 年 4 月,空軍展示了一種能夠自行運行的實驗性 F-16 戰鬥機。Photo credit: The National Interest

2017 年 5 月,美國海軍陸戰隊開始測試一種遙控機槍機器人,並表示希望自動化。這均意味著美國希望在現在正在進行的人工智慧軍備競賽中領先對手。

Project Maven 被稱為探路者型項目,也成為我們熟知的「試點項目」。

美國國防部的態度已經表達得很清楚——全面擁抱人工智慧。而 Google 員工明確公開反對參與的,也是項目 Project Maven。

 

亞馬遜、 Google 、微軟搶政府訂單

在雲端服務方面,美國國防部也找矽谷科技公司合作,其中就包括 Google 。此外,亞馬遜曾面向美國國防部不遺餘力地宣傳其圖像識別研究成果,微軟早前已與美國政府簽訂了雲端服務合約,能夠為軍事和國防機構處理機密訊息。現在 Google 員工公開表示不接受美國國防部這一超級大客戶的訂單,而微軟和亞馬遜對於美國國防部的訂單卻是非常熱情,兩種情況形成了鮮明的對比。

為了雲端服務,美國國防部還擬定了向科技企業採購雲端服務的專項計劃——與企業合作型國防基礎設施雲端服務 (Joint Enterprise Defense Infrastructure Cloud)。美國國防部當然知道雲端服務在未來戰爭中的基礎性重要意義,向擁有該技術的行業巨頭購買無疑是最好的選擇。問題在於是買哪一家,只買一家,還是幾家一起買。

該專項計劃旨在使用雲基礎設施來實現標準化和提高安全性,幫助國防部門擁有更好的訊息共享和計算能力,從最小作戰單位到指揮官都能夠利用成果在戰爭中獲得即時訊息,更好地為作戰決策。值得一提的是,美國國防部在宣傳這個專項計劃的時候,提到了「減少作戰人員傷亡」等。可眾所周知,除了製造死亡機器外,國防部不會用它搞其他事情。而這次,國防部首席管理官約翰吉布森 (國防部三號人物僅次於部長副部長)在回答媒體問題時,直言這次合作的部分原因是為了「提高殺傷力和作戰準備」。

另外有說法稱, Google 也會與亞馬遜、微軟競爭美國國防部開出的巨額訂單。我們暫時無法確認這種說法是否屬實,但可以知道的是,過去 Google 一直對採取軍事項目持謹慎態度,並竭力避免成為軍事工業的一部分,這種觀念甚至成為公司不成文的共識。舉個例子:2013 年,在收購了與軍事研究機構有聯繫的機器人公司之後, Google 曾拒絕了國防高級研究計劃局 (DARPA) 的資金。

一些業內觀察人士還說,與企業合作型國防基礎設施雲端服務計劃旨在提供雲端服務解決方案,以支持國防部的非保密、秘密和絕密要求。而美國國防部開出的雲端服務訂單,總額可能會達到 20 億美元。大家可以腦補一下畫面,美國某個科技公司在官網貼出寫著「美國國防部雲端服務唯一合作夥伴企業」的宣傳頁,這看起來是不是很恐怖?科技公司參與戰爭,這宣傳究竟是正面還是負面?

 

美國空軍想把人工智慧技術引入到情報工作中

此外還有一點,中國的人工智慧投資者也需要注意。負責國防情報局作戰支持的主管曾向路透社透露,他們注意到類似的圖像識別技術由矽谷科技公司研發,也會被軍事敵對方所用。所以從 2012 年開始,研究機構 (CB Insights) 便開始追踪由中國投資、在美國發展的人工智慧科技公司,數量達到了 29 家。這位主管還認為,當中國投資一家開發先進技術的創業公司時,美國需要承受機會成本,因為中國 (投資方) 可能禁止這家公司與美國國防部合作。

 

總結

這封公開信會對 Google 內部造成多大影響還有待觀察, Google 與政府之間的微妙博弈肯定也還會持續。但關鍵在於, Google 是否能探尋出科技公司的人工智慧技術與現代國防軍事的邊界究竟在哪裡,以及該如何對這樣的邊界加以控制。經常聽人說科技沒有國界,可軍事的存在其實就是國界的存在,這將是一個上升到人類未來與科技未來的大議題。


精選熱門好工作

客戶管理企劃 Key Account Management Planner

樂購蝦皮股份有限公司
臺北市.台灣

獎勵 NT$20,000

客服服務品質稽核專員

樂購蝦皮股份有限公司
臺北市.台灣

獎勵 NT$20,000

Brand Management

樂購蝦皮股份有限公司
臺北市.台灣

獎勵 NT$20,000

評論