【Arm 專欄】一次看懂人工智慧:雲端、邊緣與終端人工智慧

人工智慧為廣為使用的技術,而近來經常被提及的雲端人工智慧、邊緣人工智慧與終端人工智慧究竟有何不同? 本文將說明並進一步分析其優點與限制。
評論
Shutterstock/達志影像
評論

機器學習是人工智慧的子集合

人工智慧 (AI) 主要是指機器學習 (ML),ML 是 AI 的子集,包含從數據進行機器學習。一般來說,可供學習的數據量越大,AI 就越能進行有意義的推理,也就越有用,從消費裝置到健康照護、物流與智慧製造,AI 應用每天會產生數十萬 Gb 的數據,關鍵是產生數據後,應該在哪處理這些數據。Arm 以運算範圍將人工智慧定義出三個類別:雲端、邊緣與終端。

我們可以用 ML 來處理其中任一類別的數據,但並非運算效能最強的類別就是最適合的類別,以下將逐一說明。 

Arm 提供

雲端 AI

雲端 AI 是指在威力強大的雲端數據中心進行的 AI 處理。長期以來,雲端 AI 是處理龐大數據的首選運算平台。倘若當初人們沒有把數據從邊緣與終端移轉至雲端伺服器進行超高效率的處理,今日 AI 的運用不會如此成熟。

基於雲端運算的可靠性、成本效益與運算的集中性,大多數較為繁重的 AI 運算可能都會放在雲端執行,尤其是不需要緊急回應的歷史數據進行 ML 演算法訓練時。許多消費智慧裝置的「智慧」需要仰賴雲端:例如,今日智慧音箱給人是一個智慧終端的錯覺,但這些音箱唯一具備的智慧終端僅是傾聽觸發字 (辨認關鍵字)。

雲端 AI 使用 ML 解決複雜問題的能力,無庸置疑,但是隨著 ML 的使用情境逐漸成長至包含許多關鍵的任務、即時應用,這些系統成敗的關鍵就取決於完成決策的速度。而且當數據必須從裝置傳送到數千英里外的數據中心,沒人能保證接收數據、完成運算與回應後,這些數據是否仍然有用。

攸關安全應用,諸如自動化、車輛自駕、醫療顯影與製造等,都需要在毫秒內作出近乎即時的數據回應,在許多情況下,雲端處理這些數據量所帶來的延遲,可能會使數據的價值大幅降低。基於這個理由,許多企業想在雲端之外的其他運算基礎架構上處理 AI,將運算移到比較靠近數據的地方。

邊緣 AI

邊緣 AI 是指把 AI 與 ML 處理,從雲端移至網路邊緣威力強大的伺服器,例如辦公室、5G 基地台,以及其它非常接近連網終端裝置的實體地點。把 AI 運算移到更靠近數據的地方,可以排除延遲,並能確保所有數據的價值能保留下來。這在一個以毫秒為單位來衡量數據價值的世界中,能避免把數據傳送到雲端的延遲造成的威脅或破壞,尤其是對於目前人工智慧最廣泛應用的使用情境:物聯網 (IoT) 來說。

例如像網路橋接器 (network bridge) 與交換器等基本裝置,已經逐漸被功能強大的邊緣伺服器所取代,這些邊緣伺服器將數據中心等級的硬體添加至終端與雲端間的閘道器 (gateway) 中。這些由 AI 賦能的強大新型邊緣伺服器,在由如 Arm Neoverse 的新平台驅動之下,設計來提升運算力並降低耗電,為城市、工廠、農地與環境創造大量的機會,以提升效率、安全性與生產力。

邊緣 AI 能為數據與網路基礎架構帶來好處。以網路的層面來說,它可以用來分析數據流量以進行網路預測與網路功能管理,同時邊緣 AI 能根據數據自行作出決策,大大降少返回到雲端的時間,全面提升整體安全性、可靠性與效率。

邊緣 AI 的另一個關鍵功能是感應器融合:結合來自數個感應器的數據,創造與流程、環境或情況相關的複雜圖像。像是工業應用邊緣 AI 裝置,在任務中結合來自工廠內多個感應器的數據,以預測何時會發生機械故障,這個邊緣 AI 裝置必須學習每個感應器之間的相互作用,一個感應器如何影響其它感應器,並即時應用學習到的成果。

把敏感的數據移到邊緣的好處還有關鍵的安全性與彈性:當越多數據被移到集中的地點,數據完整性遭破壞的可能會增加。隨著運算本質的改變,邊緣在支援具有各種能耗與效能需求不同的系統上,扮演的角色越來越為吃重。為了替企業大規模達成服務等級協議,邊緣必須採用雲端原生的軟體原則。

Arm 透過 Project Cassini 實現此目標,這是一個開放性、協作的、基於標準的計畫,目的是透過安全的 Arm 邊緣生態系,達成雲端原生的軟體體驗。

終端 AI

Arm 把終端裝置定義為連接到網路橋接器的實體裝置,也就是包括感應器、智慧手機,以及更多的裝置。

由於大量的數據在終端產生,終端 AI 是指終端裝置有更多自行思考及處理所搜集數據的能力,藉由賦予其處理能力,毋需把搜集到的數據移到他處,就能最大化從數據獲得的洞察。智慧手機由於擁有強大的硬體,一直以來是測試終端 AI 的實驗平台,智慧手機的相機是最好的範例:它已經從只能拍攝模糊顆粒狀的粗糙自拍照,進化成能夠進行生物特徵驗證,及安全的運算性攝影功能-譬如即時為自拍照增添虛擬背景。

這項技術目前已經被應用到較小型的物聯網裝置中,也就是智慧物聯 (AIoT)。2020 年 2 月 Arm 宣佈將人工智慧加到由 Arm 驅動的最小型物聯網裝置上,透過 Arm Cortex-M55 CPU 與 Arm Ethos-U55 微神經網路處理器 (microNPU) 的結合使基於 Arm 架構的物聯網 (IoT) 解決方案效能提升近 500 倍,但仍能維持節能與成本效益,若需要效能更高,則可以考慮 Arm 後續發布的 Ethos-U65 搭配 Cortex-A 產品。而 TinyML 則是終端 AI 或 AIoT 一個新崛起的次領域,它可以讓最小型終端裝置進行 ML 處理,這些裝置內建不超過一顆米粒大小的微控制器,且只消耗幾毫瓦能耗。

當然,終端 AI 仍有其侷限性:這些裝置在效能、功率與儲存方面的限制遠比邊緣 AI 與雲端 AI 裝置更多。單一終端 AI 感應器搜集到的數據本身價值有限,因為少了感應器融合邊緣上其他數據流「由上而下」的俯視觀點,較難以一窺全貌。

雲端 AI、邊緣 AI 與終端 AI 各有其優缺點。Arm 的各種異質運算 IP 可擴展至完整的運算光譜,無論 AI 工作負載為何,都能藉由將智慧運算力置於最適之處,確保有效率的處理。最重要的是,Arm 的技術確保從雲端到邊緣到終端,AI 處理使用的數據都是安全的。Arm 的平台安全架構 (PSA) 提供了一個遵從業界典範實務的平台,能夠維持一致性的硬體與韌體層級設計;而 PSA 認證 (PSA Certified) 則確保裝置製造商打造出來的物聯網裝置是安全的。在 Arm 處理器中,Arm TrustZone 安全技術簡化了物聯網安全,並提供一個可以建構符合 PSA 認證裝置的平台。

新興的高效能運算

高效能運算 (High-Performance Computing; HPC) 是指高速處理數據或執行指令的運算能力,特別是指每秒浮點運算次數超過一兆次 (teraFLOPS) 的作業系統,機器學習是 HPC 的一種運用方式。在對抗 COVID-19 的奮戰中,全球的超級電腦紛紛投入研究,藉由 HPC 分析病毒的結構,瞭解病毒是如何附著在人體細胞上並注入其 DNA,科學家透過分子模型中測試療法、藥物和抗病毒藥物,有機會較迅速地研製疫苗。

未來,在超級電腦的運算協助下,人們有機會從原子級別了解病毒,一旦有了病毒的分子圖像後,藉由演算法與特定醫學領域的專家結合,就有可能根據基本原理設計出特定藥物,大幅減少藥物開發時間。

HPC 不僅能應用於醫療,還有應用於多種研究,例如為車輛中儲存氫的超級材料建模等,內建 Arm 核心處理器的 Isambard,以及最近發表內建 72 顆 Fujitsu A64FX 處理器的 Isambard 2 超級電腦,都是利用 HPC 協助解決全球性挑戰的範例。而我們也觀察到 AWS 開始提供基於 HPC 的雲服務,而開發 Fugaku 超級電腦的日本理化學研究所,也宣布將提供雲服務,此兩者皆是基於 Arm Neoverse 架構,未來我們可能看到更多 HPC 往雲端遷移,如何在運算時確保安全將更形重要。 

  • Arm 邊緣運算線上高峰論壇

為了提供物聯網裝置及應用可遵循的系統架構標準、安全性選項與參考實作,Arm 推出Project Cassini 計畫,在 2021 年 2 月 24 日下午三點,Arm 將舉辦「邊緣運算高峰論壇」,除了針對 Project Cassini 介紹,另外邀請了 Arm 生態系夥伴新唐科技與研華科技的技術專家,協助您掌握熱門的 AIoT 使用情境以及邊緣運算所面臨的挑戰與解決方案。

報名 Arm 邊緣運算線上高峰論壇
進一步了解 Arm Project Cassini

責任編輯:Mia
核稿編輯:Anny

延伸閱讀:



i-Ctrl AC 搶攻智能家電分眾市場,傳統冷氣一秒升級智慧家電

專為冷氣而生的智慧控制器「i-Ctrl AC」,為大眾解決傳統冷氣不夠智慧的困擾,隨時隨地精準控制居家舒適度。
評論
Photo Credit: AIFA 艾法科技
評論

台灣多變的氣候型態,讓許多人在選購冷氣時,更加注重功能性以及居家生活的舒適度。然而大多數的傳統冷氣總是忽冷忽熱、更無法遠端控制,而現在只要多花一點巧思,就能為傳統冷氣裝上智慧功能,輕鬆創造舒適的環境。

在台灣擁有 28 年代工生產經驗的「AIFA 艾法科技」,今年獨家推出台灣研發、台灣製造的「i-Ctrl AC」,為大眾解決傳統冷氣不夠智慧的困擾。只要將 i-Ctrl AC 連上 Wi-Fi,並與家中的冷氣配對,就可以擺脫找不到遙控器的窘境,透過介面簡潔的 app 輕鬆管理每台冷氣,不論身在何處,都能讓家中保持最舒適的溫度。 

i-Ctrl AC 已經在今年夏季登上挖貝 WaBay 群眾集資平台,以一千元有找的超優惠價格,創下 4 小時達標的好成績,實現台灣開發與台灣製造的絕佳典範。群眾集資網址:https://reurl.cc/yeR1WM

智慧 AI 讓冷氣變聰明 精巧符合個人使用需求

天氣又濕又熱,每天回到家裡總是想快點打開冷氣,讓室內變得舒爽。台灣的氣候悶熱潮濕,家裡昂貴的衣服容易受潮發霉。過去礙於無法即時掌握室內溫度、濕度,僅能選擇手動調整冷氣,試著讓環境舒適一點。

i-Ctrl AC 讓傳統冷氣也能偵測濕度,透過 AI 智慧感控,不僅能紀錄家裡每個時間點的溫度、濕度,還能在溫度過高時自動開啟冷氣,濕氣太重時自動開冷氣除濕。解決以往只能被動地開啟冷氣,現在可以讓冷氣主動依照環境調整模式。

兼容 Siri、Google Assistant 與 Amazon Alexa,透過手機或 Nest 智慧音箱,i-Ctrl AC 也可以搭配聲控。「Hey google, 打開冷氣」、「OK google, 把冷氣調到 26 度」,簡單幾個指令就能控制冷氣,讓電影般科幻場景在每個人的家裡實現。

從任何地方控制冷氣,輕鬆實現 IoT 美好生活

Photo Credit: AIFA 艾法科技

借助 AIFA Smart 技術,用戶可以透過智慧型手機上的 AIFA Smart app,從任何地方控制冷氣。自動偵測用戶位置,回家前自動開啟冷氣,告別悶熱潮濕的房間;外出時設定適合的溫度節能減碳,降低電費成本。就算出門忘記關冷氣也不怕,遠端遙控可以完美解決  。

如果有一台以上的 i-Ctrl AC,可以放在常用的房間自動控制冷氣,也可以放在老家遠端遙控。針對不同空間調整適合的溫度,從舊金山遙控鳳山都不是問題。i-Ctrl AC 讓用戶不需花大錢更冷氣設備,只需一台裝置,10 秒鐘就能快速配對冷氣,並且支援台灣各大冷氣品牌。輕鬆享受冷氣升級的方便,提高生活舒適度。

本土技術開發 x 台灣設計製造,譜出德國人也叫好的 i-Ctrl

AIFA 艾法科技的目標是希望根基於台灣,做一個台灣原生的智慧家庭品牌,28 年來專注於各類遙控器研發,為台灣製造無數支萬用遙控器,總共陪伴大家生活超過 10,000  個日子。

i-Ctrl 是 AIFA 艾法科技創造的台灣智慧家庭品牌,產品自 2016 年推出以來,全球募資金額累計突破新台幣 10,000,000 元。同時,更進一步建立了數百萬台冷氣的內建代碼,資料庫由台灣本土廠商自行收錄開發。消費者不必擔心產品更新與優化維護等問題,本土廠商的浪漫,讓艾法科技也引以為傲,今後也將堅定地走下去。

每天只要 3 元,為家人與毛小孩打造智慧舒適圈

Photo Credit: AIFA 艾法科技

愛自己與家人,就用最智慧的方式。專為冷氣而生的智慧控制器,無論老婆、小孩、毛孩的各式需求,i-Ctrl AC 都能一手掌握,隨時隨地精準控制居家舒適度。

i-Ctrl AC 現於挖貝群眾集資平台熱烈搶購,晚鳥 7 折只要 970 元,限時限量、預購從速,一秒升級居家舒適圈,就從現在開始:https://reurl.cc/yeR1WM

本文章內容由「AIFA 艾法科技」提供,經關鍵評論網媒體集團廣編企劃編審。