以程式行數來看,Google相當於40個Windows,他們怎麼管理程式庫的?

面對“Google 這家公司有多大?”這種問題,你可能會用收入、股票價格、客戶數量或者是形而上學的影響力來回答這個問題。但是,這還不是全部。Google 作為全球最大的網路公司,我們當然可以用“網路思維”來思考這個問題,比如用程式數量來衡量它。
評論
評論

(Photo by Michael D Beckwith)

面對“Google 這家公司有多大?”這種問題,你可能會用收入、股票價格、客戶數量或者是形而上學的影響力來回答這個問題。但是,這還不是全部。Google 作為全球最大的網路公司,我們當然可以用“網路思維”來思考這個問題,比如用程式數量來衡量它。

來自於 Google 的 Rachel Potvin,在周一舉辦的矽谷工程會議上給了我們一個可以參考的答案。她表示,執行所有 Google 網路服務的軟體,包括了 Google 搜尋、Gmail、Google 地圖等,大約有 20 億行程式。相比之下,從 20 世紀 80 年代就開始開發的 Windows 作業系統——有史以來為單一計算機所開發的最複雜的軟體工具之一,只有 5000 萬行程式。

所以簡單一刀切的話,建立 Google 相當於建 40 個 Windows 系統。

當然,5000 萬行程式驅動的僅僅是 Windows 系統本身,而 20 億行程式則是 Google 的全部。Google 的業務覆蓋範圍及其廣,包含了搜尋、地圖、文檔、社群、日曆、郵件、影音,以及其他網路服務,所有 20 億行程式都存放在程式資源庫中,提供給全部 2.5 萬名 Google 工程師使用。在公司內部,Google 對待它的程式就像對待一個巨大的作業系統。Potvin 表示:“雖然不能證明這一點,但我認為這是全球最大的單一訊息庫。”

Google 是一個極端例子,但它展示瞭如今的軟體在網路時代有多複雜,以及我們如何改變使用的開發工具和理念,以適應這種複雜性。Google 的巨大資源庫僅適用於內部程式開發者,但在某種程度上,它已經類似於 Github ——一個向所有公眾開放的開源程式庫,工程師可以通過網路共享程式。我們正在走向一個需要經常大規模合作程式的世界,也只有這樣才能跟上現代網路服務的發展。

GitHub 就表示:“Google 擁有 2.5 萬名工程師,他們可以與內部擁有各種不同技能的人分享程式。但是小公司可以使用 GitHub 和開源,得到同樣的優勢。”

另一方面,建立並執行一個 20 億行程式的龐大系統,並不簡單。Lambert 表示:“這是一項技術挑戰,也是一個巨大壯舉,數字相當驚人。”

GitHub 可以讓程式開發者輕鬆共享程式和協作,它涵蓋了數以百萬計的專案,但沒有直接容納軟體專案。Google 則更進了一步,將很多專案合併成一個。鑑於涉及許多工程師以及同時應付如此多程式的難度,能做到這一點十分地瘋狂。

Piper

Google 為了同時應付所有程式,已經建立了自己的“版本控制系統”:Piper。它在整個龐大的網絡基礎設施上執行,系統覆蓋了 10 個不同的 Google 數據中心。

這一系統不僅將所有 20 億行程式都存放在單一的系統內,並提供給公司內部工程師使用,更給工程師提供了更多自由,可以使用及合併橫跨無數專案的程式。Potvin 表示:“當你開始一個新專案,Google 已經提供了有豐富資源的資料庫,幾乎一切事情都已經幫你完成。更重要的是,工程師可以在所有 Google 服務中進行程式變更和立即部

署。更新一件事,就能夠更新一切。”

當然使用這個系統也有限制。Potvin 表示,某些高度機密的程式,如 PageRank 搜尋算法,被儲存在一個單獨的資源庫中,只提供給特定員工。而且,由於 Android 和 Chrome 兩個作業系統與那些線上服務有非常大的區別,Google 會將它們的程式儲存在單獨的版本控制系統中。但在大多數情況下,Google 程式都是一個整體。

機器程式開發者

Lambert 指出,構建和執行這樣的一個系統,不僅需要知道如何做到這種事,還需要龐大的計算能力。Piper 每天需要處理大約 85TB 的數據(即 85000GB),Google 的 2.5 萬名工程師每天會對資源庫做出 45000 次提交(修改)。

與此同時,Piper 還必須能刪去人類程式開發者所產生的大量冗餘。它必須確保程式準確無誤,程式開發者不會相互干涉,要能從資源庫中刪除錯誤和未使用的程式。而正是存在這一切困難,Piper 不得不接手一些人類的工作。現在,Google 已經從之前的一個版本控制系統 Perforce,切換到了 Piper,讓機器來完成一部分工作。

這並不意味著 Google 要讓機器人編寫程式,但它們確實可以生成很多執行軟體所需的數據和設定文件。程式開發者和機器人需要協調一致,維護程式健康。現在已經不只有人類在維護程式了。

讓所有人受惠的“Piper”

其他公司能否受益於同類系統呢?當然能,而且也確實有公司這樣做了。Facebook 的主應用程式有 2000 萬行以上程式,公司把整個事情作為一個單獨的專案。還有一些公司以較小規模在做同樣的事情,而當這些公司不斷接近 Google 或 Facebook 的規模,也會做同樣的事。但 Google 和 Facebook 都在探索能夠改變每個人的方法。

兩家巨頭正在開發一個開源的版本控制系統,任何人都可以用它來處理大規模程式。它基於現有系統 Mercurial,Google 正試圖擴展 Mercurial 資源庫,達到 Google 的規模。