【Arm 專欄】一次看懂人工智慧:雲端、邊緣與終端人工智慧

人工智慧為廣為使用的技術,而近來經常被提及的雲端人工智慧、邊緣人工智慧與終端人工智慧究竟有何不同? 本文將說明並進一步分析其優點與限制。
評論
Shutterstock/達志影像
Shutterstock/達志影像
評論

機器學習是人工智慧的子集合

人工智慧 (AI) 主要是指機器學習 (ML),ML 是 AI 的子集,包含從數據進行機器學習。一般來說,可供學習的數據量越大,AI 就越能進行有意義的推理,也就越有用,從消費裝置到健康照護、物流與智慧製造,AI 應用每天會產生數十萬 Gb 的數據,關鍵是產生數據後,應該在哪處理這些數據。Arm 以運算範圍將人工智慧定義出三個類別:雲端、邊緣與終端。

我們可以用 ML 來處理其中任一類別的數據,但並非運算效能最強的類別就是最適合的類別,以下將逐一說明。 

AI_charts_001

雲端 AI

雲端 AI 是指在威力強大的雲端數據中心進行的 AI 處理。長期以來,雲端 AI 是處理龐大數據的首選運算平台。倘若當初人們沒有把數據從邊緣與終端移轉至雲端伺服器進行超高效率的處理,今日 AI 的運用不會如此成熟。

基於雲端運算的可靠性、成本效益與運算的集中性,大多數較為繁重的 AI 運算可能都會放在雲端執行,尤其是不需要緊急回應的歷史數據進行 ML 演算法訓練時。許多消費智慧裝置的「智慧」需要仰賴雲端:例如,今日智慧音箱給人是一個智慧終端的錯覺,但這些音箱唯一具備的智慧終端僅是傾聽觸發字 (辨認關鍵字)。

雲端 AI 使用 ML 解決複雜問題的能力,無庸置疑,但是隨著 ML 的使用情境逐漸成長至包含許多關鍵的任務、即時應用,這些系統成敗的關鍵就取決於完成決策的速度。而且當數據必須從裝置傳送到數千英里外的數據中心,沒人能保證接收數據、完成運算與回應後,這些數據是否仍然有用。

攸關安全應用,諸如自動化、車輛自駕、醫療顯影與製造等,都需要在毫秒內作出近乎即時的數據回應,在許多情況下,雲端處理這些數據量所帶來的延遲,可能會使數據的價值大幅降低。基於這個理由,許多企業想在雲端之外的其他運算基礎架構上處理 AI,將運算移到比較靠近數據的地方。

邊緣 AI

邊緣 AI 是指把 AI 與 ML 處理,從雲端移至網路邊緣威力強大的伺服器,例如辦公室、5G 基地台,以及其它非常接近連網終端裝置的實體地點。把 AI 運算移到更靠近數據的地方,可以排除延遲,並能確保所有數據的價值能保留下來。這在一個以毫秒為單位來衡量數據價值的世界中,能避免把數據傳送到雲端的延遲造成的威脅或破壞,尤其是對於目前人工智慧最廣泛應用的使用情境:物聯網 (IoT) 來說。

例如像網路橋接器 (network bridge) 與交換器等基本裝置,已經逐漸被功能強大的邊緣伺服器所取代,這些邊緣伺服器將數據中心等級的硬體添加至終端與雲端間的閘道器 (gateway) 中。這些由 AI 賦能的強大新型邊緣伺服器,在由如 Arm Neoverse 的新平台驅動之下,設計來提升運算力並降低耗電,為城市、工廠、農地與環境創造大量的機會,以提升效率、安全性與生產力。

邊緣 AI 能為數據與網路基礎架構帶來好處。以網路的層面來說,它可以用來分析數據流量以進行網路預測與網路功能管理,同時邊緣 AI 能根據數據自行作出決策,大大降少返回到雲端的時間,全面提升整體安全性、可靠性與效率。

邊緣 AI 的另一個關鍵功能是感應器融合:結合來自數個感應器的數據,創造與流程、環境或情況相關的複雜圖像。像是工業應用邊緣 AI 裝置,在任務中結合來自工廠內多個感應器的數據,以預測何時會發生機械故障,這個邊緣 AI 裝置必須學習每個感應器之間的相互作用,一個感應器如何影響其它感應器,並即時應用學習到的成果。

把敏感的數據移到邊緣的好處還有關鍵的安全性與彈性:當越多數據被移到集中的地點,數據完整性遭破壞的可能會增加。隨著運算本質的改變,邊緣在支援具有各種能耗與效能需求不同的系統上,扮演的角色越來越為吃重。為了替企業大規模達成服務等級協議,邊緣必須採用雲端原生的軟體原則。

Arm 透過 Project Cassini 實現此目標,這是一個開放性、協作的、基於標準的計畫,目的是透過安全的 Arm 邊緣生態系,達成雲端原生的軟體體驗。

終端 AI

Arm 把終端裝置定義為連接到網路橋接器的實體裝置,也就是包括感應器、智慧手機,以及更多的裝置。

由於大量的數據在終端產生,終端 AI 是指終端裝置有更多自行思考及處理所搜集數據的能力,藉由賦予其處理能力,毋需把搜集到的數據移到他處,就能最大化從數據獲得的洞察。智慧手機由於擁有強大的硬體,一直以來是測試終端 AI 的實驗平台,智慧手機的相機是最好的範例:它已經從只能拍攝模糊顆粒狀的粗糙自拍照,進化成能夠進行生物特徵驗證,及安全的運算性攝影功能-譬如即時為自拍照增添虛擬背景。

這項技術目前已經被應用到較小型的物聯網裝置中,也就是智慧物聯 (AIoT)。2020 年 2 月 Arm 宣佈將人工智慧加到由 Arm 驅動的最小型物聯網裝置上,透過 Arm Cortex-M55 CPU 與 Arm Ethos-U55 微神經網路處理器 (microNPU) 的結合使基於 Arm 架構的物聯網 (IoT) 解決方案效能提升近 500 倍,但仍能維持節能與成本效益,若需要效能更高,則可以考慮 Arm 後續發布的 Ethos-U65 搭配 Cortex-A 產品。而 TinyML 則是終端 AI 或 AIoT 一個新崛起的次領域,它可以讓最小型終端裝置進行 ML 處理,這些裝置內建不超過一顆米粒大小的微控制器,且只消耗幾毫瓦能耗。

當然,終端 AI 仍有其侷限性:這些裝置在效能、功率與儲存方面的限制遠比邊緣 AI 與雲端 AI 裝置更多。單一終端 AI 感應器搜集到的數據本身價值有限,因為少了感應器融合邊緣上其他數據流「由上而下」的俯視觀點,較難以一窺全貌。

雲端 AI、邊緣 AI 與終端 AI 各有其優缺點。Arm 的各種異質運算 IP 可擴展至完整的運算光譜,無論 AI 工作負載為何,都能藉由將智慧運算力置於最適之處,確保有效率的處理。最重要的是,Arm 的技術確保從雲端到邊緣到終端,AI 處理使用的數據都是安全的。Arm 的平台安全架構 (PSA) 提供了一個遵從業界典範實務的平台,能夠維持一致性的硬體與韌體層級設計;而 PSA 認證 (PSA Certified) 則確保裝置製造商打造出來的物聯網裝置是安全的。在 Arm 處理器中,Arm TrustZone 安全技術簡化了物聯網安全,並提供一個可以建構符合 PSA 認證裝置的平台。

新興的高效能運算

高效能運算 (High-Performance Computing; HPC) 是指高速處理數據或執行指令的運算能力,特別是指每秒浮點運算次數超過一兆次 (teraFLOPS) 的作業系統,機器學習是 HPC 的一種運用方式。在對抗 COVID-19 的奮戰中,全球的超級電腦紛紛投入研究,藉由 HPC 分析病毒的結構,瞭解病毒是如何附著在人體細胞上並注入其 DNA,科學家透過分子模型中測試療法、藥物和抗病毒藥物,有機會較迅速地研製疫苗。

未來,在超級電腦的運算協助下,人們有機會從原子級別了解病毒,一旦有了病毒的分子圖像後,藉由演算法與特定醫學領域的專家結合,就有可能根據基本原理設計出特定藥物,大幅減少藥物開發時間。

HPC 不僅能應用於醫療,還有應用於多種研究,例如為車輛中儲存氫的超級材料建模等,內建 Arm 核心處理器的 Isambard,以及最近發表內建 72 顆 Fujitsu A64FX 處理器的 Isambard 2 超級電腦,都是利用 HPC 協助解決全球性挑戰的範例。而我們也觀察到 AWS 開始提供基於 HPC 的雲服務,而開發 Fugaku 超級電腦的日本理化學研究所,也宣布將提供雲服務,此兩者皆是基於 Arm Neoverse 架構,未來我們可能看到更多 HPC 往雲端遷移,如何在運算時確保安全將更形重要。 

  • Arm 邊緣運算線上高峰論壇

為了提供物聯網裝置及應用可遵循的系統架構標準、安全性選項與參考實作,Arm 推出Project Cassini 計畫,在 2021 年 2 月 24 日下午三點,Arm 將舉辦「邊緣運算高峰論壇」,除了針對 Project Cassini 介紹,另外邀請了 Arm 生態系夥伴新唐科技與研華科技的技術專家,協助您掌握熱門的 AIoT 使用情境以及邊緣運算所面臨的挑戰與解決方案。

報名 Arm 邊緣運算線上高峰論壇
進一步了解 Arm Project Cassini

責任編輯:Mia
核稿編輯:Anny

延伸閱讀:



最高明的攬客工具:電商、實體業者通用的中租零卡,為消費收付重新定義

隨著科技發展、電子化支付漸漸普及,業者也需要更全面地考量提供消費者的支付服務。「中租零卡」服務不限電商或實體通路皆能提供零卡收付服務,鎖定消費市場佈局「零卡生活圈」。

評論
評論

根據資策會產業情報研究所針對臺灣消費者支付行爲調查,2020 年台灣民眾選擇行動支付意願,首度超越實體金融/信用卡支付。

資策會更近一步指出,今年因受到疫情影響,民眾考量非接觸因素使用行動支付的比例提高,此外也開始重視其他訴求,如財務管理、安全性、穩定性與良好體驗。

這顯示出為何速度快、彈性高的「電子化支付」(所有非現金支付的統稱)可以擴大合作通路,打入實體信用卡難以涉足的「小額支付」場域。

中租零卡服務鎖定小資、自由業,帶領業者踏入交易收付新藍海

隨著金融業數位轉型,更加重視消費者體驗的「金融服務業」,「低消費高頻率」的小額支付、民生消費,近年也是行動支付業者更努力投入及開發的領域。

順應這股浪潮,「中租零卡」乘勢崛起。近年隨著工作型態的快速轉變,中租零卡服務除了有穩定收入上班族可以申辦外,也對於非穩定收入或不一定拿得出財力證明的消費者,如家管、新興產業工作者(如:網紅、外送)、自由業者等,提供了消費購物的支援。同時,這項服務對業者而言也能成為拓增客群的利器。 

目前在台灣服務最完善且市場占比最高的是:2018 年由中租控股旗下仲信資融公司推出的「中租零卡」服務。「在我們經營不同市場長達 10 多年的經驗中,消費者幾乎都有『零利率分期付款』的需求,零卡分期的市場比想像中的大。」仲信資融副總經理張銘聰分享中租進入消費金融市場的契機。

早在 2000 年,信用分期概念尚未在台灣普及時,中租就開始提供機車業者分期付款與金流處理服務,解決車行因為單價高而收款不易的問題。隨著這項服務愈趨成熟,中租接續跨足教育、母嬰市場,直至近年開始與美妝、傢俱品牌合作,朝家庭民生消費市場多角化發展。

_E8A3106
仲信資融副總經理張銘聰。Photo Credit:TNL Brand Studio

時間推至現今,中租在原先 B2B 的服務鏈中,開始經營中租零卡的品牌,實際走到第一線面對消費者,增加並強化 B2C 的優勢,將客群拓展至更廣大的年輕族群。「我們與網路電商都有合作,而且保留了掃描 QRcode、或透過數位填單方式申請高額商品分期,透過電腦與手機之間的串連,年輕消費者不用重頭學習新結帳方式,避免使用者產生轉換成本。」張銘聰點出中租搶占年輕市場的優勢。

中租零卡服務近年持續與三大電商「 momo 購物網」、「 Yahoo 奇摩購物中心」、「東森購物網」合作, 也是針對新世代網路消費習慣的佈局。有了中租零卡服務加持,2020 年雙 11 購物節,三家電商創下相較 2019 年成長的銷售佳績。

盤點中租最大的優勢,一是中租核准交易速度不需 1 個小時,二是不限金額大小,消費者都能使用多期數零卡分期付款,最重要的是讓消費者權益更有保障(先取貨使用和體驗,次月才付款)。加上中租豐富多元的合作店家,讓他們成為實體或網路店家吸引來客、拓增客源的法寶,打造消費者、業者「雙贏」的局面。

電子與實體通路皆通用,2B 線上線下金流整合+2C 收付服務,共創雙贏

中租零卡服務,除了提供消費者零利率及低利率分期的彈性等服務外,甚至支援實體通路消費零卡收付,這也是中租發展「零卡生活圈」佈局的重要一環。

以合作廠商之一,購物網業者「福貓挖寶網」為例。以零食團購起家,透過專業精準的選貨眼光,打下一片穩定市場,卻在拓展產品類別時遇到瓶頸。「我們想拓展較高單價的小家電市場,但一開始比較難說服客戶。」福貓執行長彭士勳解釋,中租零卡的分期服務有如一劑強心針,減輕不少消費者的心理及荷包一次性負擔。「從 9 月中開始預購的智慧家電產品,目前銷量已經到達 1 億元,而這之中有 50% 的業績都是來自中租零卡提供分期付款的功勞。零卡分期對業者來講實在是一個很強大的武器。」

_E8A3176
福貓團購網執行長彭士勳。Photo Credit:TNL Brand Studio

福貓和中租零卡合作後,針對高額商品提供消費者分期付款的選項,消費者可評估每月還款能力,降低一次性的支出壓力,還能善用支付工具且有規律地付款,滿足生活所需。 張銘聰也補充:「中租零卡服務也會慎選合作廠商與產品,在自媒體上協助合作商家行銷推廣,福貓產品就是一個例子。」藉由對消費者的服務,反向經營和業者的關係,這也是難以被複製的模式。

事實上,除了分期付款服務,本身就積累大量業者資源的中租,連企業內部營運的金流問題都能提供解決方案,擔任第三方支付平台的角色。「最近我們與外送平台規劃, 讓外送員能以零卡付款的方式,將外送時收取的零錢,以一個月一次的頻率繳回總公司,不只解決總公司收款不便的問題,也讓外送員有更彈性的選擇,繳回從顧客端所收取的現金。」

同理,其他採用中租零卡服務的公司,包含尚無資源負擔 POS 系統的中小型業者,以及現在正夯的微型電商,都是看準其整合線上線下付款方式的優點。

展現普惠金融精神,中租佈局「零卡分期生活圈」

在電子化支付趨勢帶動之下,中租零卡服務鎖定小資與年輕世代客群,切入更多元的消費市場,在金流業殺出一片新藍海。張銘聰也表示,未來中租計畫深耕更小額的支付市場,切入民生用品、疫情後蓬勃發展的國旅經濟,提高分期付款的消費頻率,打造「低消費高頻率」的消費習慣,是零卡生活圈的第一步。

_E8A3355
Photo Credit:TNL Brand Studio

採訪尾聲,張銘聰也補充目前除了一般消費者付款服務之外,中租零卡也自許能成為商家收付款解決方案的專家,任何商家只要想解決收款問題都可以找中租來研究,找出客製化的完美方案,相信台灣將可朝普惠金融更邁進一步。


精選熱門好工作

Web / Mobile App Developer (台北)

Oursky Limited (Taiwan)
臺北市.台灣

獎勵 NT$15,000

客服⼯程師

萬欣網路科技有限公司
臺北市.台灣

獎勵 NT$15,000

資深人力資源管理師 (Senior Officer, Human Resources)

布爾喬亞公關顧問股份有限公司
臺北市.台灣

獎勵 NT$15,000