向員工妥協、停止與國防部續約,這是一個只會發生在 Google 的故事

Google 宣布在這次合約到期後結束與美國國防部的合作的 Project Maven,像勝利的號角般,這場發生在技術團隊與管理團隊之間曠日持久的「戰鬥」終於以前者的勝利收場!
評論
Photo Credit:Matt Montagne
Photo Credit:Matt Montagne
評論

本篇來自合作媒體 極客公園 ,INSIDE 經授權轉載。

五角大樓的一張合約,引發了 Google 內部長達三個月的抗議運動。最終,「Don't be evil」勝利了。

在 Google Cloud 內部,員工們把每週一次的例會稱為「天氣預報」(Weather Report)。外界對此知之甚少,直到這週五,這個特別的名字才隨著一條新聞傳遍了矽谷乃至整個美國網路圈。

在周五的例會上,兼任 Google Cloud 執行長和 Google 董事會成員的黛安 ·格林( Diana Greene)宣布,Google 將在這次合約到期後結束與美國國防部的合作的 Project Maven。

像勝利的號角般,消息在 Google 內部不脛而走,很快傳到了媒體耳中,一篇篇頭條報導的刊出,標誌著這場發生在技術團隊與管理團隊之間曠日持久的「戰鬥」終於以前者的勝利收場。

回過頭來,審視 Google 這三個月的外爭內鬥,你會發現這注定只會是一個發生在 Google 的故事,一個注定會載入公司歷史的故事。其結局,則是這家創辦整整二十年的傳奇互聯網巨頭再一次地,在政治壓力、商業利益以及技術理想間選擇後者的最佳證明。

秘密合約

故事要從三月初的一則報導說起。

今年三月六日,據首先接到內部員工爆料的   Gizmodo報導 ,Google 已經與美國國防部(五角大樓)達成合作,幫助後者開發應用於無人機的人工智慧係統,專案代號   Project Maven

第二天, The Intercept 發出 跟進報導 ,稱五角大樓與 Google 在簽約時秘密透過一家名為 ECS Federal 的中間公司,因而這項合作沒有被外界發現。同時因為 Google 內部對員工的保密要求,這起合作事件在最初只通過內網郵件的形式在公司內部傳播。等到 Gizmodo 等媒體接到爆料公開報導時,相關話題已經在 Google 瘋狂被討論了近一個禮拜。

在內部的討論中,許多 Google 員工憤怒地表達了對 Project Maven 的強烈不滿。他們中有人認為 Google 在為五角大樓開放資源,助紂為虐般地幫助後者打造無人機監控技術;還有一部分人質疑 Google 如此使用機器學習技術是否符合道德標準,他們認為五角大樓會將這一技術用於殺傷性武器,進而帶來技術樂觀派們從未想要造成的傷害。

2017 年是全球各國政府清醒認識到人工智慧重要性並採取行動的一年。在這樣的背景下, 2017 年四月,遲遲沒有在人工智慧領域大筆投入的美國國防部決定啟動 Project Maven,聯合擁有世界上最多人工智慧高端人才的美國名校和網路巨頭,加速打造供軍方無人機使用的前沿電腦視覺系統。Project Maven 又被稱為「算法戰爭跨部門團隊(AWCFT)」,它的目的是「加速機器學習和大數據與國防部應用的融合」。

雖然五角大樓從未對外透露與任何具體公司的合作,但對外界而言,找到可疑目標並不是一件難事。 Project Maven 有著一個名為「美國國防創新委員會」的顧問小組,最初由前美國防部長 Ash Carter 創辦,旨在橋接五角大樓和矽谷產業界之間的技術鴻溝。委員會成員大多是美國電腦和路巨頭的高管,其主席正是現任 Google 母公司 Alphabet 董事會成員的埃瑞克 ·施密特。據媒體爆料稱,包括施密特在內的多個顧問團隊成員所在的公司都有著直接向五角大樓提供幫助的能力。

對此,被推上風口浪尖的施密特表示,他之所以擔任這一角色就是為了保證軍方在使用技術時是出於保護國家安全的目的,他認為「至少應該允許這樣(軍方和矽谷之間)的對話存在」。施密特還強調,國防部並沒有將 Google 的技術用於戰鬥用途。

可顯然,施密特的解釋並不能讓員工們滿意, Google 充滿技術理想的員工們很快掀起了新一輪的抗議浪潮。

四千人連署請願

四月初, 超過 3100名 Google員工聯名上書公司 CEO Sundar Pichai ,表達對 Project Maven 的抗議。

「我們認為 Google 不應該做戰爭的生意。」員工們在信中說道,他們要求 Google 設立一項新規定: Google 和其合約公司永遠不能參與戰爭技術的工程。在員工們看來, Project Maven 這樣的計劃不僅會損害公司的名譽,還會為 Google 日後招聘人才帶來不利影響。「 Google 獨特的歷史,它『不作惡』的座右銘,還有它直接觸達數以億計用戶的能力,這些都是它與眾不同的原因。」

「Google 的價值觀已經說得非常清楚:我們的每一個用戶都信任著我們。永遠不要打破這份信任,永遠不要。」員工們在信中強調說。

這份 請願書 在  Google 內部流傳數週,最終收穫了約 4000 份簽名,其中不乏一些高級別的工程師。

請願書曝光之後, Google 發表聲明回應稱,「機器學習的任何軍事用途都會很自然地引起一些合理的擔憂」,但 Google 正在公司內部積極地推動關於這一重要話題的全面討論。雖然 Google 表示這樣的交流「非常重要且有益」,但《紐約時報》接觸到的爆料者們仍然因為害怕報復而不敢公開曝光身份。

在回應中, Google 再次強調了提供給五角大樓的技術不過是任何 Google Cloud 用戶都可以使用的開源物體識別軟體(TensorFlow API),「這項技術被用於標記人類審核的圖片,目的是拯救生命,以及為從事枯燥乏味工作的人們節約時間」。

就在 Google 手忙腳亂安撫員工情緒的時候,它的競爭對手們卻「大搖大擺地」與五角大樓展開合作:亞馬遜吹捧著自己與國防部合作的圖片識別工作,微軟則拿下了軍方處理機密數據的雲服務訂單。

在雲服務的商業化上, Google Cloud 已經落後於先行的亞馬遜 AWS 和微軟 Azure,因此作為 Google Cloud 的負責人,上任以來未有明顯建樹的黛安 ·格林更是希望能夠借助這次與國防部的合作,拿下日後更多的訂單。

更諷刺的是,有媒體發現, 在四月底前後 , Google 刪掉了其沿用十八年的座右銘「Don't be evil」在公司行為守則開頭中的三處強調。僅在準則的結尾,還留有未被刪掉的一句:「記住,don't be evil,如果你看到了一些你認為不正確的事情,大聲說出來!」

辭職風波

事件發展到五月中旬, Google 的員工聲嘶力竭地抗議了近三個月,包括格林、皮菜甚至公司創辦人謝爾蓋 ·布林在內的多位高管卻沒有做出積極的回應,甚至因為害怕被員工知道後引起更大規模的抗議活動, Google 管理層還在「偷偷摸摸地」競標國防部另一個雲服務 計畫。

十多名對管理層感到絕望的員工走投無路,決定 上交辭職信 ,主動離開公司,「在過去的幾個月裡,我對這些回應,以及他們對待人們的擔心、傾聽人們顧慮的方式,越來越失望了。」

「從某一刻起,我突然發現我沒有足夠的信念推薦別人加入 Google 了。我想清楚了,如果我不能推薦別人加入這裡,那麼為什麼我還要留在這兒呢?」一位離職的員工說道。「我嘗試提醒自己,這是 Google 的決定,不是我的。我沒必要對他們做的每件事都擔負起個人的責任。如果我能夠讓事件升級,那我覺得這就是我的責任。」另一位員工說。

在 Google 創立以來的二十年間,這家一向以工作環境舒適、文化自由的公司從未經歷過今天這樣的嚴峻情況。這起 Google 歷史上最大的辭職風波,真正給管理層們敲響了警鐘,直接促成了最終 Google 作出向抗議員工們妥協的決定。

在六月一日的「天氣預報」例會上,黛安 ·格林宣布,公司將在 2019 年與五角大樓的合約到期後, 終止 Project Maven的合作

「我們一直有說,這只是個為期 18 個月的合約,所以在 2019 年的三月,它就會結束。」格林在會上說道,「並且我們將不再續約。」

至此, Google 內部長達三個月的抗議活動告一段落,它最終以管理層向員工的想法妥協收場。

但直到格林對外宣布的兩天前,《紐約時報》發布了一份 內部郵件的爆料文章 ,我們才看到 Google「服軟」背後的真正原因。


撕裂的 Google

並非所有員工都完全反對 Google 與五角大樓的合作。有些人認為 Google 的競爭對手,微軟和亞馬遜正在從與國防軍事的合作中賺得盆滿缽滿,而在這兩家公司內部,卻鮮有抗議者阻礙公司追求更多的利益。

四月二日,美國政府對 Project Maven 追加了 1 億美元的投資,同時國防部還發出價值  100 億美元的雲端服務競標專案,在銷售和管理層眼中,這顯然是塊不容錯過的大蛋糕。

在一次全公司的例會上,格林解釋說 Google Cloud 與五角大樓的合約並沒有用於致命用途,並且這只是個價值  900 萬美元的小合約,可管理層的目的也非常明顯,他們希望透過這筆為期 18 個月的小合約撬動日後更多更大的生意。

Google 共同創辦人謝爾蓋 ·布林也出面回應了一系列有關 Project Maven 的問題,他表示自己與另一位創辦人拉里 ·佩奇以及桑達爾 ·皮蔡 進行了嚴肅的討論,他認為 Google 這樣的國際性公司參與到這樣的合約中對和平來說反而是一件好事 ——相比一些民族主義的公司而言。

在布林出面的同一個會議上, CEO 皮蔡表示 Google 將會出台一套「能夠經得起時間考驗」的規定,規範 Google 在日後與國防和情報部門外包生意中避免倫理雷區。可以看出在當時,無論是身居 Alphabet 總裁的布林還是 Google CEO 皮蔡,他們都沒有打算徹底放下國防部的這塊肥肉。

在曝光的諸多郵件中,李飛飛是一個關鍵的名字。這位華裔 Google Cloud 首席科學家不論在學界還是產業界都有著舉足輕重的地位。在 Google Cloud,她身居管理層卻又有著研究員的身份,正因如此,在這場風波之中,李飛飛成為了連接管理層與技術團隊的核心人物。

李飛飛

去年九月,當 Google 剛剛與五角大樓簽下合同時,負責對政府銷售的 Scott Frohman 向李飛飛等人尋求「公關幫助」,希望找到合適的方法在不引起爭議的情況下將這一合同公之於眾。

從郵件中可以看到, Google Cloud 的同事們將決定權交給李飛飛,後者認為公司應該公開將這一合作宣傳作「 Google雲端平台的巨大勝利」。她強烈建議在構建此計劃時要「非常謹慎」,她在郵件中說道,「如果媒體開始拿 Google 在秘密打造 AI 武器或者為國防工業打造能夠武器化的 AI 技術作為報導主題,我不知道那樣會發生什麼。」

李飛飛尤其提到希望公司在公開討論這一合作時盡量避免使用「 AI」這兩個字母。「不惜一切代價避免提到或者暗示 AI(的應用),武器化的 AI 可能是最為敏感的人工智慧話題之一 ——甚至可能沒有之一。對想要傷害 Google 的媒體來說,這簡直是一塊送上嘴邊的鮮肉。」

李飛飛一貫站在人工智慧利好的一面,「將 AI 武器化嚴重違反了我一切研究工作的原則」,她在事後回應道。

除了 Google Cloud 以外,其他一些公司內部 AI 領域的關鍵人物也在這次事件中發聲。

DeepMind 就是這次抗議的積極參與方之一。早在 2014 年, Google 收購 DeepMind 時,合約上就明文寫著後者拒絕將技術提供給任何軍事和監控用途。不少 DeepMind 的員工參與了聯名信的簽名活動,其創辦人 Mustafa Suleyman 更是直接參與了建立與 Project Maven 有關政策的 Google 領導層討論。

Google 人工智慧部門的總負責人 Jeff Dean 在前不久的 Google I/O 上接受了媒體的採訪,他表示自己已經簽署了一份反對機器學習技術在自動化武器中應用的連署信,藉此表達了其站在武器化 AI 對立面的立場。

可惜的是,最終拍板的黛安 ·格林並沒有聽取李飛飛等人的意見, Google 沒有公開這項其與五角大樓的合作,因而導致了數月之後,合作在公司內網上引來無數員工直言不諱的批評。

「大聲說出來」

Google 內部一向有著直言不諱的傳統,這正是所有加入 Google,自稱 Googler 的員工們最為自豪的地方。

在 2015 年, Google 的員工們曾成功迫使公司撤回其對博客平台上色情內容的禁令; 2017年, 有員工發表備忘錄 反應公司內部過分政治正確的問題,引起了整個公司的熱烈討論,包括皮查伊在內的多位高管不得不公開作出反省。

另外一方面, Google 內部充滿了技術理想的氛圍,技術極客們對這家以「不作惡」為座右銘的公司趨之若鶩。在其創辦的二十年間,無數天才聚集於此, Google 也因此得以成長為今天的網路巨頭,在人工智慧行業裡成為首屈一指的存在。

Google 的文化根植於這種言論開放的公司環境之中,那些聯名請願,甚至痛心離開的 Googler 們正是這一開放文化的忠實信徒。像其行為守則裡「沒捨得刪掉」的那句話:「記住,don't be evil,如果你看到了一些你認為不正確的事情,大聲說出來!」當一家公司做出了背離初心的事情,它的員工們甚至不惜離職來逼迫公司重回正軌,這恰恰體現了員工對公司的厚重期待。

在有關 Project Maven 的討論中,一種觀點認為即使 Google 退出,五角大樓也會與其他公司達成合作,最終蒙受損失的只有 Google。

對此,不少人表達了對這種「我不做壞事,其他人也會做」的幼稚觀點的否定。但不可否認的是,在人工智慧越來越受到各國政府重視的今天,美國國防部不可能因為一家公司的退出而作罷,武器化的人工智慧或許已經成為了一個不可避免的趨勢。

趨勢之下, Google 員工們的奮起抗議也許會被競爭對手和國防部的政府官員們看作是不成熟的舉動,但對整個行業而言,這樣的做法卻成為了一個罕見的先例。

四月中旬,在 Google 內部的聯名請願書發起之後,一些 科技巨頭的員工們聯合了起來 ,在網上發起了要求 Google、微軟、IBM 和亞馬遜等雲服務巨頭不再為國防部合同競標的請願書。

一家公司也許無法改變世界變化趨勢(無論好壞),但它至少能成為那個積極的榜樣。