【2021 INSIDE 未來日】AI 晶片耐能:在 IoT 邊際運算領域,NPU C/P 值比 CPU、GPU 還高!

自製專題

評論
Photo Credit:INSIDE
評論

要發揮 AI+IoT 強大縱效潛力,邊緣運算與晶片絕對是其中不可不討論的重要環節。致力於終端 AI 晶片設計、軟硬整合的台灣 AI 晶片新創耐能(Kneron)共同創辦人兼執行長劉峻誠今天就《AI 客製晶片如何提升效率》,分享他們如何結合 AI 晶片、邊緣運算與雲端的豐富經驗。

劉峻誠首先簡單介紹,耐能創立於 2015 年並在台美皆有據點,創業至今已獲得鴻海、華邦電子、中華開發金控、SparkLabs Taipei、高通、紅杉資本與阿里巴巴創業者基金投資。劉峻誠本人也擁有加州大學洛杉磯分校(UCLA)博士學位,並在高通、三星擔任研發工作十餘年,並獲得不少海內外媒體關注以及學界獎項。

劉峻誠認為,在人工智慧快速成為主流的趨勢下,企業若能採用專為神經網路設計的處理器 NPU(Neural Processing Unit),跟 CPU、GPU 相比單位功耗表現有等比級數上的差別,也將會有效壓低產業成本,提升運算效率創造更高的 C/P 值。

耐能介紹,AI 剛開始發展時都是把運算能力放在雲端上,但這需要把資料透過網路傳輸,也會有過度把資料集中化的可能;比起所有運算需求全部交給雲端計算的話,運用 NPU 可以在成本、運算時間、隱私性等三個環節都具有優勢。在這些推拉力之下,全球 AI 晶片市場預計從 2018 年 60 億美元以每年 45% 的複合年均成長率,快速到 2025 年成長至 900 億美元。

面對這麼大的市場需求,劉峻誠強調他們投入 AI SoC 與模型壓縮上,而且不只做硬體,還借用了 App Store 概念,推出可以讓開發者自由上架 AI 應用程式的 PaaS 平台「KNEO」,只要客戶購買耐能的硬體產品,就能在商城裡購買人臉辨識、人形偵測、物件偵測等 AI 程式,自由地跟硬體搭配打造具備高效率的 AI 終端 IoT 裝置。

這些 AI 終端 IoT 裝置目前已經蠻廣泛地用在智慧城市、車用 ADAS、金融場景、智慧安控與智慧製造了。劉峻誠介紹最經典的運用就是 AI IP Camera,他舉例如果傳統的 IP Camera 可以放進 AI 晶片,就能馬上在不佔頻寬的狀況下迅速進行人臉辨識等 AI 應用,大大提升方便性。

劉峻誠表示,他們現在主要有 KL520、KL720 兩種晶片,都可以用堆疊的方式購入晶片加強算力,前者耗能較少適合運用在 IoT 裝置,像是台水的智慧水表就已經採用了他們的晶片;而後者現在已經被廣達雲、研華工業電腦採用拿來計算 AI 模型;而現在他們也跟投資者鴻海在 MIH 展開電動車採用 AI 的合作,以及幫鴻海、廣達等大廠建立 Smart AOI 系統,在不換機器的前提下,大幅提升機器的 AI 能力。

劉峻誠說,得力於更精準的 AI 運算能力,他們的臉部辨識能力已經可以精準分析破解傳統模型不能識別的 3D 面具;而在電動車 ADAS 上,他們也打算在車子上安裝分布式的小型 AI 裝置,讓每個鏡頭都有獨立的運算能力,具有更好的安全保護能力。

核稿編輯:Anny

延伸閱讀: