【Arm 專欄】最新 AI 調查報告: 一窺新冠疫情下企業對人工智慧的部署與管理

Arm 報告顯示疫情對於組織部署人工智慧計畫的影響甚微。38% 的受訪者表示,他們的計畫沒有改變,32% 的受訪者表示,實際上疫情反而加速了他們的計畫。
評論
Photo Credit:Arm 提供
評論

在麻省理工學院技術評論洞察與 Arm 聯合發佈的最新人工智慧 (AI) 調查報告《全新的視野: 擴展人工智慧領域》中顯示,無論公司規模大小,都能藉由使用人工智慧以帶動業務並改善流程。令人驚訝的是,企業並未因新冠肺炎流行而放緩對人工智慧的部署。

根據這份針對全球 301 名企業和科技產業領袖,其中有近六成是 C-level 層級的高階主管或公司監事的調查報告顯示,隨著企業重新構建業務和改善客戶體驗,人們對人工智慧普遍抱持樂觀態度。在此同時,報告顯示疫情對於組織部署人工智慧計畫的影響甚微。38% 的受訪者表示,他們的計畫沒有改變,32% 的受訪者表示,實際上疫情反而加速了他們的計畫。

人工智慧使企業能夠重新構想與建構業務

企業利用人工智慧的原因包括即時決策、獲得競爭優勢、產品開發和改善客戶體驗。簡而言之,人工智慧讓企業能夠重新構想和建構自己的業務。

儘管越來越多的專案在邊緣和終端裝置上使用人工智慧運算,但在被調查的領域中,許多組織基於成本效率和運算性能,將人工智慧的工作直接利用雲端來運算。依據調查高達 77% 的組織正在部署基於雲運算的人工智慧應用,這使得在雲端運算相較於在伺服器或終端裝置運算更受歡迎。

Photo Credit:Arm 提供

甫卸下能源管理公司施耐德電機 (Schneider Electric) 技術長一職的 Ibrahim Gokcen 表示雲端運算極為重要,原因是「它不但可以讓我們的公司轉型數位化,也可以讓客戶的事業轉型數位化。」,他補充說:「在此次危機發生之前,對我們來說這已經是一個很明確的戰略性投資領域。」

報告凸顯了運算的明顯分歧

部署人工智慧解決方案的企業會依據運算所需劃分運算之處。例如,機器人製造商波士頓動力公司 (Boston Dynamics) 董事長 Marc Raibert 把人工智慧劃分為兩種類型,其一為「運動型 AI」,其二為「認知型 AI」。「運動型 AI」主要應用於裝置上運算,比如機器人,讓機器人可以在以人為主的環境中運作,由於低延遲對於機器人能夠協調地移動至關重要,因此機器人的感測器、運算與馬達之間需要低延遲的連接演算法並與機器緊密耦合。

而「認知型 AI」則是在指定的環境中思考、計劃和學習,由於對延遲要求較不要求,企業會借助在雲端上運行,而針對不想在他人的雲端上發展認知型 AI 的公司,他們會在自己本地的雲端,或是邊緣完成運算。

越來越多的應用轉向邊緣靠攏

根據受訪者指出,研發是目前 AI 最常見的用途,高達 53% 的受訪者使用 AI 技術來開發新產品與服務,他們靠研發把 AI 架構的分析法,整合進他們的產品與服務開發流程中,以強化效能及營運效率。針對異常情況的檢測與網路安全,則是其次常見的 AI 部署應用。

Photo Credit:Arm 提供

以基於雲運算的應用開發為例,波士頓兒童醫院的合作夥伴 - 以色列醫療技術開發商DreaMed Diabetes,把「AI 智能」注入遠端的胰島素管理。病人把他們的胰島素泵或血糖機數據上傳至雲端,藉由病人將資料提供給醫院,使醫院能夠使用雲端的軟體來處理數據,並使用他們的演算法調整並建議患者的胰島素方案,以節省許多的時間,並為醫師提供額外的洞察。

但儘管仍有許多企業在雲端運算,因為雲提供了顯著的 AI 驅動優勢,但有越來越多的應用逐漸轉向「邊緣」基礎架構靠攏,也就是利用雲端與裝置之間具有運算力的中間運算層,優點是與距離遙遠的雲端運算資料中心相比,這些放在邊緣伺服器的運算與儲存資源更接近裝置,意味著較低的延遲,因此當使用者使用裝置來存取某個應用時,能夠有更快的回應。也因此雖然邊緣運算沒有像雲端運算具有無限的擴充性,但仍足以應付像 AI這樣需要大量數據的應用。

類神經網路處理器 Arm Ethos-U65 與 Ethos-U55 為 AI 平台增添效能

為了促成創新,今年年初 Arm 發布了 Cortex-M55 CPU 以及採用全球首顆微型 NPU 架構的 Ethos-U55 NPU,此組合與上一世代應用 Cortex-M CPU 相比,ML 效能提升了 480 倍,為了進一步提升效能,近期推出的 Ethos-U65  NPU,在維持 Ethos-U55 的功耗效率下,將應用延伸至 Arm Cortex-A 與 Arm Neoverse 架構系統。Ethos-U65 為需求更高的應用推升效能至 1 TOPs,賦予各種裝置新能力,如高解析智慧相機、智慧家庭解決方案,以及甚至如頻寬與電力管理次系統等基礎設施應用。

Photo Credit:Arm 提供

對於未遵循道德規範使用 AI 的擔憂

調查中發現企業與科技領袖最擔心 AI 落到心懷不軌的人手中,他們也對於演算法缺乏透明度與可能受到人類偏見的影響感到擔憂。根據 Capgemini 顧問公司在 2020 年進行的一份調查顯示,70% 的消費者期待企業在與他們進行交易使用 AI 時能保持透明度與公平性;但與前一年相比,認為企業在這方面的作為已經足夠的消費者減少了 12%,這顯示人們會依據企業是否符合 AI 道德規範及社群關切的焦點來評判他們。

Photo Credit:Arm 提供

人工智慧能夠增強使用體驗、提高運營效率,加深對客戶的瞭解,以形成新的業務創新領域,例如遠距醫療的人工智慧應用逐漸增加,而我們也觀察到這段期間能夠快速地運用遠距辦公及電子商務的公司,營運得以持續。

例如南韓首爾市的一家餐廳為了減少人們的接觸,透過使用 AI 機器人「Aglio Kim」的定位與繪圖能力,在餐館中四處穿梭替客人派送食物到餐桌上以維持社交距離措施。這場疫情讓消費者和商業決策者意識到,正是時候加快對人工智慧工具的考慮和使用。

請下載麻省理工學院技術評論出版的最新報告《全新視野: 擴展人工智慧領域》,協助您開發和部署人工智慧計畫。點此下載完整報告

欲瞭解 Arm 人工智慧解決方案與 Arm Ethos-U65 與 Ethos-U55,請造訪我們

責任編輯:Chris
核稿編輯:MindyLi

延伸閱讀:



開發者享受 CI/CD 價值!運用 Amazon EKS 整合 GitLab 創建自動化部署

企業如何在 Amazon EKS(Elastic Kubernetes Services)上使用 GitLab 創建自動化部署,減輕人力負擔,提升專案服務運作效率?
評論
評論

所謂現代化智慧 IT,所有工程師最希望的境界,莫過於只要輕鬆點幾下設定,系統就會自動跑起來,管理者再也不用隨時待命在機台旁邊,從此工作悠哉又快樂!儘管這樣情境還沒到來,但隨著敏捷式開發的流行,除了 DevOps 人員,有越來越多開發者將 CI/CD 概念融入到工作流程當中,例如從 build code、執行 unit test、到部署應用程式。

打造第一個在 AWS 上的應用程式

上述種種反覆步驟自動化執行,也就能提昇服務品質、主動通知開發人員以減輕人力負擔,讓專案服務能持續運作。

其中,GitLab 是執行 CI/CD 常用的工具之一,也是開發者使用程式碼儲存庫的地方。為了讓 GitLab Runner 在雲端快速實踐 CI/CD,《AWS 開發者系列》透過影片分享,如何在 Amazon EKS(Elastic Kubernetes Services)上使用 GitLab 創建自動化部署。

以下節錄工作坊影音內容,幫助開發者快速理解如何運用 Amazon EKS 的高可用性且安全的叢集,將修補、部署節點、更新等關鍵任務,全部做到自動化設定。同時影片也會示範 Amazon EKS 搭配 GitLab 如何展開自動部署,幫助工程團隊實踐 CI/CD 價值。

Amazon EKS 對容器管理輕鬆簡單、維運省時省力

容器化服務越來越興盛,當容器(Container)越來越多,在複雜的微服務(Microservice)系統環境之下,運維團隊的管理成本可能相對會增加不少,為了有效調度容器部署, 導入Kubernetes 無疑是近年企業熱門的話題之一。

建構 Kubernetes Cluster 流主要可區分兩大塊,一是安排容器調度的Control Plane、另一則是容器運行時需要用到的 Worker Node。

Control Plane 裡面涵蓋有儲存狀態的 ETCD、CoController manager 、Scheduler 的調度管理、甚至是操作時進行互動的 APIServer,若是自己創建 的 Kubernetes Cluster ,需要自己安裝這些元件,後續仍需要對 Control Plane 進行相關管理、維護、升級工作。為了減少上述 Components 的繁複維護,在透過 AWS EKS 代管的 Kubernete Control Plane 部可以獲得以下三大好處。

透過 AWS 增加雲端技能 在組織發揮影響力

Amazon EKS 一鍵式部署,展現三大優勢

第一,Amazon EKS代管的 Control Plane實踐了跨AZ的高可用部署,使用者不需要擔心單一節點故障的風險。

第二,Amazon EKS 支持至少四個 Kubernetes版本,持續跟進每季 CNCF 的發佈,同時 EKS 也完全符合上游 CNCF 規範。

第三,部署 Amazon EKS 之後,可直接使用 AWS 平台上現成的服務工具,在安全性管理、網路設定方面,可以做到無縫整合。

最後 AWS 台灣解決方案架構師也提到,若想在容器環境進行 CI/CD 及應用程式的管理,可以進一步透過 IaC 整合部署 Amazon EKS 叢集,透過使用 Console、把 EKS 變成 Cloudformation 的模板、使用 AWS 所開發出來的 eksctl.io、或指令是採用 AWS CDK 可以讓開發者用自身熟悉的語言,在 AWS 平台整合 CI/CD 工具進行維運及部署 EKS。

了解 Amazon EKS 整合 GitLab ,獲得三面向價值

對開發者而言,想把 Amazon EKS 整合到 CI/CD 工具之一的 GitLab 平台上,可以看到那些實際的優勢?

在 DevOps 開發者示範工作坊當中,GitLab 資深解決方案架構師指出,GitLab 使用到 Kubernetes 技術,主要有三種搭配方法,包含 GitLab Server、GitLab Runner、以及創建 Deployment Environment。

本次示範教學會主要聚焦在 GitLab Runner 如何採取 Auto-scaled 方式進行 Build、Test、Package Apps;以及在 Deployment Environment 運用 Kubernetes 技術,做到 Auto Deploy、Review App。

正因為 Amazon EKS 能夠在 DevOps 過程提供所需要的彈性計算資源,幫助開發者在 GitLab 平台上面獲得以下三個層次的優勢:

  • 在 GitLab 內建的部署工作流程當中,自動生成整套 CI/CD 最佳實踐腳本。
  • Review App 過程,從 Merge Request 中可直接訪問應用程式 /App 的 UI 介面,並且根據 Git branch 名稱、專案名稱,自動生成 Review App 的 URL,以及在 Merge 前的最後防線進行 Approval 檢查。
  • 加速 CI/CD 流水線,GitLab Runner 運行時候還可藉由 Amazon EKS Cluster 進行 Auto-scaled 的支援。

Amazon EKS 整合 GitLab ,需要兩大流程

影片最後,GitLab 資深解決方案架構師示範如何把 Amazon EKS 整合至 GitLab 執行 Auto Deploy,主要可分為兩大區塊流程,第一部分聚焦在 Amazon EKS cluster 的設置,第二部分則執行 Auto Deploy 設置。

第一塊可拆分為四個階段,首先教學怎麼創建 EC2 節點的 EKS cluster,第二階段示範把 EKS Cluster 連接到開發者的 GitLab Instance、Group 或 Project,下一步則使用 Cluster Management Project Template 創建一個 Cluster Management Project,以及最後一階段透過 Cluster Management Project 自帶的 Helm Chart,安裝在 Cluster 所需要的內建 App。

第二塊執行 Auto Deploy 設置,針對需要部署的 App 創建一個 GitLab Project,接著再把 gitlab-ci.yml 添加到 Project,並從 Web IDE 選擇及導入 Auto Deploy 的 CI 模版,讓 GitLab 自動生成最佳實踐的整套流水線。

幫助開發者更了解 Amazon EKS 整合 GitLab 的 QA 系列

Q:使用 Amazon EKS 之後,如何更有效率或優化資源去配置 Worker Node 的機器數量,以及如何有效空管開發維運的成本?

A:Kubernetes 除了本身有 HPA(Horizontal Pod Autoscaling)可根據使用程度自動調整資源流量,另外也能延伸使用 AWS Auto Scaling 方案,針對可擴展資源去設定自動擴展管理。另外在成本管控,雖然 Amazon EKS 會收取額外管理費用,但可透過 AWS 平台的 Calculato r計算每個 EKS 的價格,你會發現自動化部署及管理的費用,相對工程師人力的成本更加便宜。

Q:越來越多客戶考慮把現有 Application 變成容器部署,大多是爲了加快部署的效率,那麼變成容器模式之後,對 CI/CD 的工作流程有什麽影響嗎?

A:運用容器技術最直接的效果,可以讓應用程式的環境更一致化,例如 testing 環節、stage production,讓容器避開一些差異問題。至於 CD 部分要 delivery 一些 usage 不太一樣的時候,容器會幫忙做配置,所以 CI/CD 對容器的效益是相輔相成的。

Q: 客戶在開發流程漸漸會把 Infrastructure 變成代碼或文檔,是不是可以把程式碼跟現有的應用程式的 CI/CD 流水線整合在一起,達到一套完整的 CI/CD 部署流程?

A:觀察目前市場作法,主要分成兩個階段去做整體部署。如果規模比較小的團隊,會把 Infrastructure 代碼跟 App 代碼分開,在管理上會比較靈活;如果企業規模比較大,會有另外一個 Infrastructure 團隊來控制部署事情,這種情况之下,APP 的項目會生成一個 APP package,主要做到 delivery 這個階段爲止。而 Infrastructure 的項目會指定把需要版本的文檔,部署到他們的 Kubernetes Cluster。

填寫表單 找到適合的快速上雲服務與工具!