Twitter如何在數千台伺服器上快速部署程式碼?

評論
評論
image

答案是:用 BT,也就是你我應該都很熟悉的 BitTorrent。

對於網站經營者、創業者來說,延展性的問題是在網站流量成長過程中勢必會面對的問題,如何建立一個具有延展性的架構 (scalable architecture) 便是在規劃網站事業過程中不可或缺的專業知識。

如果服務本身的功能性合乎使用者需求,卻因為架構、程式效能、資料庫效能的問題導致服務成長出現瓶頸,如何評估、分析網站效能瓶頸?釐清問題後如何找出對應的解決方案,可以思考的相關議題可能包括:

  • 如何有效率地釐清問題?從使用者端的數據(讀取時間)或是從伺服器端的 log 檔案、硬體的負載率?
  • 網站效能瓶頸是出現在 Client 或 Server 端?是資料庫撐不住還是程式效能不好?是 Request 太多還是檔案太大?
  • Web Server、DB server 如何擠出更多的資源?擠不出資源後如何擴展?擴展後會遇到什麼問題?

參考國外知名網站在架構上的作法是很好的一種方式,儘管服務的規模可能無法相比,但根據「正確的作法與經驗」踏出對的第一步,肯定是有助於突破網站營運的效能瓶頸。

Twitter 身為全球最大的微網誌服務,運用數千台的伺服器提供服務給來自全球各地的使用者,然而每當網站內容、應用程式有更新時,如何盡可能地在越短的時間內將程式碼部署 (deploy) 到所有的伺服器便是相當重要的課題。

Twitter 的開發部落格 上的一篇文章:「Murder: Fast datacenter code deploys using BitTorrent」分享了 Twitter 如何持續改善應用程式的部署流程,在過去 Twitter 使用 Capistrano 部署應用程式,Capistrano 是許多 Ruby/Rails 使用者(當然也有其他語言的開發人員會使用)用來部署程式碼的一個開源專案,開發人員在部署程式碼的過程都可以透過自動化的部署流程來簡化經常重複的動作,尤其在專案必須同時部署到多台應用程式伺服器時會特別方便。

Twitter 在早期便依賴 Capistrano 來進行應用程式的部署,每當有新版本的程式碼需要釋出時,Capistrano 會根據預設好的各種設定、流程到 Twitter 所有的伺服器上進行更新的動作,在過去伺服器還不多的情況下一切都很美好,但隨著 Twitter 伺服器數量的成長,到了幾百台伺服器時,事情已經不再像過去一樣美好,甚至到後來擁有數千台伺服器時,更新的作業會耗費 40 分鐘。

Twitter 針對這個問題,認為問題的關鍵在於:使用集中式的系統,也就是所有的伺服器要輪流排隊到同一台版本控制系統上進行程式碼更新。Twitter 最初的想法是將版本控制系統也做出分散式的架構,伺服器的程式碼更新就可以分散到不同的機器來壓縮部署時間,但事實上版本控制系統即使分散在多台伺服器上,也同樣會有這些伺服器要更新檔案的時間。因此 Twitter 發現或許是需要一個完全去中心化、最好像是 BitTorrent,利用 P2P 的特色讓所有的節點都可以協助進行程式碼的更新。

以結果來看,在 採用了 BitTorrent 的方式來更新程式碼後,部署的時間從 40 分鐘大幅減少到只要 12 秒鐘! 實在是非常驚人的改善,數千台伺服器的程式碼居然只要短短 12 秒鐘就能完成。

Twitter 也將此次部署流程改善的成果分享出來,專案名稱叫做 Murder,如果對於技術細節有興趣的讀者,可以再進行深入的研究;筆者簡單摘錄幾個重點如下:

  • Murder 是以 BitTornado 為基礎開發出來的(BitTornado 是某一種 BitTorrent client)
  • Murder 的定位是「協助我們快速的將檔案部署到大批伺服器上」
  • 利用 BitTorrent 的部署方式可避免防火牆的問題、擁有非常快的傳輸速度
  • 實際的部署程式碼是搭配 Capistrano 進行,網頁上有很清楚的說明

以下是 Twitter 的架構工程師 Larry Gadea 談 Murder 的影片:

Twitter -- Murder Bittorrent Deploy System from Larry Gadea on Vimeo.

相關文章

評論