【Arm 專欄】一次看懂人工智慧:雲端、邊緣與終端人工智慧

人工智慧為廣為使用的技術,而近來經常被提及的雲端人工智慧、邊緣人工智慧與終端人工智慧究竟有何不同? 本文將說明並進一步分析其優點與限制。
評論
Shutterstock/達志影像
評論

機器學習是人工智慧的子集合

人工智慧 (AI) 主要是指機器學習 (ML),ML 是 AI 的子集,包含從數據進行機器學習。一般來說,可供學習的數據量越大,AI 就越能進行有意義的推理,也就越有用,從消費裝置到健康照護、物流與智慧製造,AI 應用每天會產生數十萬 Gb 的數據,關鍵是產生數據後,應該在哪處理這些數據。Arm 以運算範圍將人工智慧定義出三個類別:雲端、邊緣與終端。

我們可以用 ML 來處理其中任一類別的數據,但並非運算效能最強的類別就是最適合的類別,以下將逐一說明。 

Arm 提供

雲端 AI

雲端 AI 是指在威力強大的雲端數據中心進行的 AI 處理。長期以來,雲端 AI 是處理龐大數據的首選運算平台。倘若當初人們沒有把數據從邊緣與終端移轉至雲端伺服器進行超高效率的處理,今日 AI 的運用不會如此成熟。

基於雲端運算的可靠性、成本效益與運算的集中性,大多數較為繁重的 AI 運算可能都會放在雲端執行,尤其是不需要緊急回應的歷史數據進行 ML 演算法訓練時。許多消費智慧裝置的「智慧」需要仰賴雲端:例如,今日智慧音箱給人是一個智慧終端的錯覺,但這些音箱唯一具備的智慧終端僅是傾聽觸發字 (辨認關鍵字)。

雲端 AI 使用 ML 解決複雜問題的能力,無庸置疑,但是隨著 ML 的使用情境逐漸成長至包含許多關鍵的任務、即時應用,這些系統成敗的關鍵就取決於完成決策的速度。而且當數據必須從裝置傳送到數千英里外的數據中心,沒人能保證接收數據、完成運算與回應後,這些數據是否仍然有用。

攸關安全應用,諸如自動化、車輛自駕、醫療顯影與製造等,都需要在毫秒內作出近乎即時的數據回應,在許多情況下,雲端處理這些數據量所帶來的延遲,可能會使數據的價值大幅降低。基於這個理由,許多企業想在雲端之外的其他運算基礎架構上處理 AI,將運算移到比較靠近數據的地方。

邊緣 AI

邊緣 AI 是指把 AI 與 ML 處理,從雲端移至網路邊緣威力強大的伺服器,例如辦公室、5G 基地台,以及其它非常接近連網終端裝置的實體地點。把 AI 運算移到更靠近數據的地方,可以排除延遲,並能確保所有數據的價值能保留下來。這在一個以毫秒為單位來衡量數據價值的世界中,能避免把數據傳送到雲端的延遲造成的威脅或破壞,尤其是對於目前人工智慧最廣泛應用的使用情境:物聯網 (IoT) 來說。

例如像網路橋接器 (network bridge) 與交換器等基本裝置,已經逐漸被功能強大的邊緣伺服器所取代,這些邊緣伺服器將數據中心等級的硬體添加至終端與雲端間的閘道器 (gateway) 中。這些由 AI 賦能的強大新型邊緣伺服器,在由如 Arm Neoverse 的新平台驅動之下,設計來提升運算力並降低耗電,為城市、工廠、農地與環境創造大量的機會,以提升效率、安全性與生產力。

邊緣 AI 能為數據與網路基礎架構帶來好處。以網路的層面來說,它可以用來分析數據流量以進行網路預測與網路功能管理,同時邊緣 AI 能根據數據自行作出決策,大大降少返回到雲端的時間,全面提升整體安全性、可靠性與效率。

邊緣 AI 的另一個關鍵功能是感應器融合:結合來自數個感應器的數據,創造與流程、環境或情況相關的複雜圖像。像是工業應用邊緣 AI 裝置,在任務中結合來自工廠內多個感應器的數據,以預測何時會發生機械故障,這個邊緣 AI 裝置必須學習每個感應器之間的相互作用,一個感應器如何影響其它感應器,並即時應用學習到的成果。

把敏感的數據移到邊緣的好處還有關鍵的安全性與彈性:當越多數據被移到集中的地點,數據完整性遭破壞的可能會增加。隨著運算本質的改變,邊緣在支援具有各種能耗與效能需求不同的系統上,扮演的角色越來越為吃重。為了替企業大規模達成服務等級協議,邊緣必須採用雲端原生的軟體原則。

Arm 透過 Project Cassini 實現此目標,這是一個開放性、協作的、基於標準的計畫,目的是透過安全的 Arm 邊緣生態系,達成雲端原生的軟體體驗。

終端 AI

Arm 把終端裝置定義為連接到網路橋接器的實體裝置,也就是包括感應器、智慧手機,以及更多的裝置。

由於大量的數據在終端產生,終端 AI 是指終端裝置有更多自行思考及處理所搜集數據的能力,藉由賦予其處理能力,毋需把搜集到的數據移到他處,就能最大化從數據獲得的洞察。智慧手機由於擁有強大的硬體,一直以來是測試終端 AI 的實驗平台,智慧手機的相機是最好的範例:它已經從只能拍攝模糊顆粒狀的粗糙自拍照,進化成能夠進行生物特徵驗證,及安全的運算性攝影功能-譬如即時為自拍照增添虛擬背景。

這項技術目前已經被應用到較小型的物聯網裝置中,也就是智慧物聯 (AIoT)。2020 年 2 月 Arm 宣佈將人工智慧加到由 Arm 驅動的最小型物聯網裝置上,透過 Arm Cortex-M55 CPU 與 Arm Ethos-U55 微神經網路處理器 (microNPU) 的結合使基於 Arm 架構的物聯網 (IoT) 解決方案效能提升近 500 倍,但仍能維持節能與成本效益,若需要效能更高,則可以考慮 Arm 後續發布的 Ethos-U65 搭配 Cortex-A 產品。而 TinyML 則是終端 AI 或 AIoT 一個新崛起的次領域,它可以讓最小型終端裝置進行 ML 處理,這些裝置內建不超過一顆米粒大小的微控制器,且只消耗幾毫瓦能耗。

當然,終端 AI 仍有其侷限性:這些裝置在效能、功率與儲存方面的限制遠比邊緣 AI 與雲端 AI 裝置更多。單一終端 AI 感應器搜集到的數據本身價值有限,因為少了感應器融合邊緣上其他數據流「由上而下」的俯視觀點,較難以一窺全貌。

雲端 AI、邊緣 AI 與終端 AI 各有其優缺點。Arm 的各種異質運算 IP 可擴展至完整的運算光譜,無論 AI 工作負載為何,都能藉由將智慧運算力置於最適之處,確保有效率的處理。最重要的是,Arm 的技術確保從雲端到邊緣到終端,AI 處理使用的數據都是安全的。Arm 的平台安全架構 (PSA) 提供了一個遵從業界典範實務的平台,能夠維持一致性的硬體與韌體層級設計;而 PSA 認證 (PSA Certified) 則確保裝置製造商打造出來的物聯網裝置是安全的。在 Arm 處理器中,Arm TrustZone 安全技術簡化了物聯網安全,並提供一個可以建構符合 PSA 認證裝置的平台。

新興的高效能運算

高效能運算 (High-Performance Computing; HPC) 是指高速處理數據或執行指令的運算能力,特別是指每秒浮點運算次數超過一兆次 (teraFLOPS) 的作業系統,機器學習是 HPC 的一種運用方式。在對抗 COVID-19 的奮戰中,全球的超級電腦紛紛投入研究,藉由 HPC 分析病毒的結構,瞭解病毒是如何附著在人體細胞上並注入其 DNA,科學家透過分子模型中測試療法、藥物和抗病毒藥物,有機會較迅速地研製疫苗。

未來,在超級電腦的運算協助下,人們有機會從原子級別了解病毒,一旦有了病毒的分子圖像後,藉由演算法與特定醫學領域的專家結合,就有可能根據基本原理設計出特定藥物,大幅減少藥物開發時間。

HPC 不僅能應用於醫療,還有應用於多種研究,例如為車輛中儲存氫的超級材料建模等,內建 Arm 核心處理器的 Isambard,以及最近發表內建 72 顆 Fujitsu A64FX 處理器的 Isambard 2 超級電腦,都是利用 HPC 協助解決全球性挑戰的範例。而我們也觀察到 AWS 開始提供基於 HPC 的雲服務,而開發 Fugaku 超級電腦的日本理化學研究所,也宣布將提供雲服務,此兩者皆是基於 Arm Neoverse 架構,未來我們可能看到更多 HPC 往雲端遷移,如何在運算時確保安全將更形重要。 

  • Arm 邊緣運算線上高峰論壇

為了提供物聯網裝置及應用可遵循的系統架構標準、安全性選項與參考實作,Arm 推出Project Cassini 計畫,在 2021 年 2 月 24 日下午三點,Arm 將舉辦「邊緣運算高峰論壇」,除了針對 Project Cassini 介紹,另外邀請了 Arm 生態系夥伴新唐科技與研華科技的技術專家,協助您掌握熱門的 AIoT 使用情境以及邊緣運算所面臨的挑戰與解決方案。

報名 Arm 邊緣運算線上高峰論壇
進一步了解 Arm Project Cassini

責任編輯:Mia
核稿編輯:Anny

延伸閱讀:



不限車款、車齡都能升級?《車管+懶人包》輕鬆加入「手機車鑰匙」的行列

笠眾實業(IVTES)開發的「車管+」系統安裝與使用教學,升級手機車鑰匙的方法,全都整理在這裡了。
評論
評論

不限車款或年份的「車管+」手機車鑰匙,近期引起許多車主的興趣。畢竟不用花大錢換名牌車,就能夠輕鬆入門享有智慧便捷的 iKey,確實是相對無負擔的高 CP 值選擇。那麼使用「車管+」手機車鑰匙是否會要大幅度改車,其實也不必。這款由笠眾實業(IVTES)開發的「車管+」系統,只需要改裝一支「原廠車鑰匙」,並在車上安裝主機、手機下載「車管+1號」App,就可擁有一系列手機車鑰匙的智慧應用。

安裝簡易:可請一般汽修保養廠代勞或自行 DIY,下載 App 萬事俱足

從官網線上訂購並收到「車管+」的主機套組後,首先第一步就是改裝遙控器,再安裝車內主機,日後即可透過手機作為汽車門鎖的備份鑰匙。其實安裝產品並不難,車主可以選擇:

  1. 如果自己對從遙控器中取出電路板與電路焊接作業有信心,可以直接自行 DIY,笠眾會隨產品提供簡易量測工具與說明手冊,若車主對汽車電系了解也能自行安裝主機與收納。
  2. 可寄送遙控器請笠眾公司代為改裝隨產品回寄後,車主再請汽車保修廠安裝主機與收納。
  3. 現場安裝地點位於新北市中和,需與笠眾公司預約安裝時段。

遙控器改裝、車內主機安裝的作業原理可以參考上圖。特別要注意的是,「手機車鑰匙」僅作為汽車門鎖控制,並非日後用手機就能直接啟動汽車引擎。如果是「一鍵啟動」的車款,與車主的手機藍牙配對連線時即會對車內改裝電路板供應 3V 電源,所以可以直接啟動汽車;若為「插鑰匙啟動」車款,一樣要插入五金鑰匙啟動才能發動引擎,建議車內可預先放置五金鑰匙。

常用功能指南:共享車機 vs 虛擬鑰匙

除了上圖直接以 App 介面為例說明常用功能之外,入門使用者較容易混淆的通常是「共享車機」和「虛擬鑰匙」這兩種功能。其實這兩者的分別很簡單,可以參考下表一目瞭然:

簡單來說,如果是長期要一起共享汽車的親朋好友或是公務用車,建議使用「共享車機」,用車時藍牙會自動傳輸資料,便於車主或公務車人員管理,掌握汽車動向;如果是單次臨時用車,則建議使用「虛擬鑰匙」,用車者會拿到一組有時效性的虛擬鑰匙連結,可作為短期用車使用,不必大費周章面交實體鑰匙,就能共享用車。

使用者常見Q&A

使用者常見 Q&A 整理如上圖。人手一機、手機不離身的時代,升級為「車管+」的手機車鑰匙,利用手機藍牙自動感應功能,就能自動上解/鎖,解決過往要開車時才發現忘記拿鑰匙、下車後又忘記鎖車的問題。如果不小心被反鎖在車外,連自己的手機也被鎖在車內時,也可以借用他人的手機下載 App,登入帳號即可以解鎖。

另外,日後如果賣車或換新車,有需要的話也可以恢復成原本的車鑰匙;而且產品拆卸簡易,要移機至新車繼續使用也是沒問題的。想要體驗手機車鑰匙的新潮與便利嗎?不限車款、車齡都能輕鬆入門!

立即安裝車管+