【Arm 專欄】Neoverse 新解决方案發表!助力擴展雲到邊緣的次世代基礎架構

Arm 親自詳解 Neoverse 全新的 V1 平台與 N2 平台,如何增加數據中心效率,以降低電能浪費。
評論
Shutterstock/達志影像
評論

自駕車、智慧醫療裝置與智慧建築物,正逐漸改變我們的生活,但這些應用之所以變為可能,是因為大約每兩年到兩年半手機、伺服器與其它裝置每瓦電所能執行的工作量幾乎加倍。根據 IEA 的資料,以數據中心為例,自 2015 年以來網際網路流量增加 5 倍,數據中心的工作負載幾乎成長兩倍,但受惠於技術的突破,數據中心電力消耗維持在 1,980 億千瓦小時左右。

資料來源:國際能源機構 (IEA), 2015

由於智慧裝置普及使得傳送與處理的資料量增加,根據 Nature 期刊引用 Anders Andrae 的資料,預期至 2030 年數據中心的耗電將占全球總電量需求的大宗,而根據 State of the Edge 2020 報告指出,為了服務新型應用,2028 年需要 102 千兆瓦 (GW) 的新電量。

由於電費往往佔數據中心營運成本的三至五成,但數據中心一個機櫃 (rack) 只能容納有限的電量與熱氣,若非透過增加每瓦工作量來提升生產力,則需建置更大的空間與更多的伺服器,將使數據中心運作遭遇挑戰。

因此,另一個觀察能源效率的方法是評估運算密度,提升運算密度可以提升數據中心可用的資源,降低利用此基礎架構所需負擔的價格。下面這些方法將能提升每瓦效能,以獲得更佳的用電效率與密度,有助城市運作。

資料來源:Nature, 2018

1. 使用更多的核心

過去 15 年來,企業多半以下列方式增加效率 : 改裝建物以提升空氣對流,在機架上放上塑膠片以降低冷卻的預算,移除機架內運作僵滯的伺服器,或以 GPU 與快閃記憶體加速器提升每瓦運作。

另一種方式則是調整數據中心中的伺服器處理器,以大量的高效能運算核心取代少量但運算力強大的核心,也就是使伺服器從較低檔位高轉速 (RPM) 轉變成高檔位較低轉速運作。亞馬遜網路服務公司 (AWS) 的 Graviton2 系統單晶片由 64 個運算核心組成,每個機架上有少則數百個多則數千個核心。

而去年 11 月榮登 Green 500 名單榜首的 Fugaku 超級電腦,內建近 3.7 萬個節能核心可達到每瓦運算效能 16.876GFlops/watts, 2020 年 Fugaku 超級電腦在「高效能共軛梯度」(HPCG) 名單中榮獲最高榮譽,這象徵了當代基礎架構需求重大的演進。此外, Ampere 公司發布業界首款基於 Arm Neoverse N1 平台的 80 個內核 64 位元伺服器處理器晶片 Altra,將 3,680 個核心裝至單一機架裡,比一般多出 2.5 倍。

2. 利用邊緣運算

理論上,雲端架構的數據中心是置放運算負載最具效率的地方,工作負載可以被積極地整併,可用最高效率的設備進行填充。但實際上,雲端只要出現 15 分鐘的電力需求暴增,就可能導致被收取較高的尖峰功率費用,為了避免被收取較高費用,可將負載分散到週邊,而自駕車運作與 AI 驅動的工廠,也需要複雜的邊緣基礎架構。這種趨勢將驅使電信業者與其它公司開發出能夠極大化使用率並極小化功率與網路流量的技術以轉移負載。

在全國或全球性危機中,以雲端為中心還可能導致緩慢的連線速度與資料傳送不穩定。譬如以冠狀病毒大流行為例,CDN 技術服務商 Cloudflare 調查發現,當今年 3 月 13 日周五美國宣布全國進入緊急狀況後,美國數據中心的網路流量 (下圖紅線) 比往常 (下圖灰線) 驟升 20%,由於後疫情時代視訊會議更為普遍,深度邊緣運算的需求將更為提升。

Inria 專案實驗室的報告指出,跟傳統以雲端為中心的數據中心相比,若在分散的伺服器上管理物聯網相關任務,由於能減少網路中繼、降低冷卻負載,以及針對運算資產能做更佳運用,將能減少 14% 到 25% 的耗電量。

資料來源:Cloudflare Blog, 2020

3. 增加 NPU 應用

微神經網路處理技術,以向量延伸、整合積體電路,或是以特別設計用來高效率執行矩陣乘法的專用神經網路處理器 (NPU) 等形式出現。在以 AI 降低從影片與影像擷取洞察所需的資源方面 NPU 技術扮演關鍵角色。今日影片已佔大約 75% 的網際網路流量,由於預期臉部辨識與即時分析的擴展將佔用更多的流量,思科預估到 2022 年,影片流量將成長兩倍,將佔有 82% 的網路流量。

為了持續提升基礎建設效能,Arm 延續其在 Neoverse N1 生態體系之基礎,發布了全新的Neoverse V1 平台與 N2 平台,Neoverse V1 平台極致優化性能,為首個支援可擴展延伸向量指令集(SVE)的平台,與 N1 平台相比提升 50% 以上的單執行緒 (single-threaded) 效能,SVE 允許使用與單元的寬度無關的軟體程式設計模型在更寬的向量單元上執行 SIMD 整數、bfloat16 或浮點指令,透過 SVE 確保了軟體編碼的可攜性、壽命及有效執行,應用上以高性能雲、HPC 和機器學習等市場為主。

而 Neoverse N2 平台則提供了可擴展的性能在維持與 N1 相同的面積與功耗下提升了 40% 的單執行緒 (single-threaded) 效能,能支援多達 192 個核心設計,具有最大的面積運算密度 (TDP/Area) ,可應用於雲端高核心運算、5G 邊緣、企業網路、智慧網卡 (Smart NIC) 、路由器與數據交換器等應用。

Arm 提供

若想要進一步了解 Arm Neoverse 解決方案,歡迎報名 11 月 4-5 日於線上舉辦的 Arm DevSummit,在本場 Arm 最盛大的年度科技論壇中,我們邀請到 AWS、Fujitsu、Arm 等專家為您介紹最新設計、工具、生態系統與應用案例。此外,針對其他主題,我們亦邀請到來自 Facebook、Google、Netflix、福斯集團、高通、凌華科技、群聯電子、阿里巴巴創業者基金等多位重量級講者進行近 40 場技術演講,期待與您線上相見。

核稿編輯:Chris

更多資訊請點此報名 Arm DevSummit

延伸閱讀:



【 MarTech Asia 】數位轉型突圍!萬里雲推出機器人寫文案服務,以 AI 加速行銷流程

CloudMile 萬里雲旗下 Martech 產品── ADsvantage (廣告智庫)全新 2.0 功能上線,採用非營利人工智慧組織 —— OpenAI 強大的文章產成器 「 GPT 系列」為基礎,推出全新 AI 智慧寫手功能。
評論
Photo Credit:CloudMile
評論

 CloudMile  萬里雲旗下 Martech 產品── ADsvantage(廣告智庫)全新 2.0 功能上線,採用非營利人工智慧組織 —— OpenAI  強大的文章產成器「 GPT 系列」為基礎,推出全新 AI 智慧寫手功能。隨著行銷碎片化時代來臨,消費者的用戶輪廓越來越難拼湊,從獲取資料、數據分析,到廣告文案創作的最後一哩路,行銷人員必須借助更多工具幫忙,奪回行銷效益的掌握度。 ADsvantage 提供台灣中小企業行銷人員、廣告主及電商業者自助管理的廣告平台,大幅縮短廣告行銷人員作業時間。

 ADsvantage 推出新功能,受邀 2021 MarTech Asia 分享 AI 化數據行銷

日前全台最大的行銷科技盛會 2021 MarTech Asia ,阿物科技創辦人暨執行長林思吾號召 26 位業界領袖同台 ,現場及線上共有超過 1,800 位全球及台灣相關業者齊聚一堂,包括行銷科技之父 Scott Brinker、前 Verizon Media 國際事業董事總經理鄒開蓮、全聯實業副董事長謝健南等人,分享行銷科技的重要趨勢及後疫情時代的新生態。 CloudMile 萬里雲營運長高斌恒也受邀分享,各個科技巨頭都紛紛有許多針對隱私權的規範和措施,消費者的線上線下界線越來越模糊。 當今行銷人所面對的難題不只是 SEO、投放優化而已,「數據」才是致勝關鍵,透過將許多流程自動化,省下時間與人力成本的情況下,達到更高的行銷目標,其中包括 Cookieless 時代來臨、深化 OMO 無縫體驗、打造顧客數據平台( Customer Data Platform , CDP )等議題都受到業界高度關注。

豐富跨國實戰經驗的 CloudMile 機器學習團隊,運用超過 500 萬的文案數據庫、橫跨 20 種產業以上的廣告量,結合廣告代理商 20 年以上行銷經驗,創造 ADsvantage 「 AI 智慧寫手」 新功能。 CloudMile 看見客戶對於數位轉型及運用 MarTech 行銷科技推廣商品的急迫需求,希望可運用 AI 技術之力,縮短廣告前期企劃、發想關鍵字詞、寫文案和廣告投放設定,同時還需跨組溝通,尋找資源協助的時程, ADsvantage 廣告智庫即是專為滿足客戶後疫行銷需求的一站式廣告營運平台解決方案。

人工智慧寫手結合電商平台, 加速行銷流程的最佳 AI 助理

 ADsvantage 全新 2.0 功能上線,採用 GPT 模型,為矽谷時下最夯的自然語言處理模型,推出全新 AI 智慧寫手功能,透過平台能協助客戶透過數據匯流、 AI 分析達到預測的成效,快速蒐集最熱門的關鍵字、文案內容,加速創意的過程並提升廣告效率。

此全新產品適合應用在電商等大型網購平台上,透過機器學習與 AI 科技應用,讓中間產製時間被大幅被縮短,並提升操作數位行銷的「效率」與「精準度」,像是電商平台即可透過採用 ADsvantage 的服務,有效提升自己在數位行銷上的競爭力。

Photo Credit:CloudMile
ADsvantage 全新 2.0 功能上線,推出 AI 華語文案生成工具「AI 智慧寫手」。/Photo Credit:CloudMile

 ADsvantage 產品介紹

運用 AI 科技力助企業數位轉型的 CloudMile 萬里雲,發表關鍵字數位廣告輿情系統 ADsvantage(廣告智庫),提供企業廣告主及電商平台,透過超過百萬的文案創意庫( Ads  idea ) 、 AI 智慧監控工具及 AI 智慧寫手,平均只要 3 秒即可生成一個廣告文案。 CloudMile 透過 Google 雲端、機器學習與 AI 大數據分析技術,致力協助企業落實數位轉型。疫情期間抓住需求開發的 ADsvantage ( 廣告智庫) 服務,透過服務台灣、新加坡、及香港逾 400 家客戶的專業經驗,將傳統的商業廣告運營模式數據化,提供企業廣告主一站式 Google Ads 廣告文案創作 AI 化平台。

本文章內容由「阿物科技」提供,經關鍵評論網媒體集團廣編企劃編審。