【Howie 商業投資】自動產生 AI 模型!人工智慧大規模部署的關鍵:AI 工業化

為了能加速 AI 模型的開發與應用,「AI 工業化」趨勢誕生,簡單來說就是用機器學習平台來生產 AI 產品。
評論
Photo Credit: iStock
評論

AI 當前已從理論逐步到模型部署與應用階段,然而有研究機構指出,雖然許多產業進行無數的前導專案 (Pilot Program),但卻有 60% 的 AI 模型開發無法順利進入部署與應用。 40% 雖順利進入部署 AI 解決方案,但模型卻因疏於維護、監測與調校而逐漸失去準確性,到底出了甚麼事?

在企業營運中,許多預測分析流程仰賴 AI 模型的運作,而 AI 模型之所以能開發、部署與應用,背後是無數的 IT 與資料學團隊合作,包含資料串流的標準化與機器學習模型即時整合。為了能加速 AI 模型的開發與應用,一種新的趨勢——「AI 工業化」,成為當前最新作法,這套流程白話來說即是把 AI 產品化,然後用機器學習平台來生產這個「產品」。一如製造業產線上的自動化一樣,用一系列的步驟與協作,讓平台自動生成 AI 模型,再讓相關資料/IT 團隊進行後續作業,降低 AI 開發與維運成本,與解決分析軟體與程式語言不相同的問題。

AI 模型產品化流程。Photo Credit: Howie 提供

AI 工業化核心關鍵:MLOps 平台

MLOps 是資料科學家、ML 工程師、軟體開發人員以及其他 IT 部門的共同產出,用於機器學習模型生命週期。模型的訓練、測試分析、資料的預處理都可以在 MLOps 完成,你可以把他想成一個用來生產 AI 模型的協作平台,透過敏捷運作的方式降低企業的技術負債。用商業語言來說,MLOps 讓企業可以快速生產 AI 模型同時又可以兼顧模型品質,而速度與品質的兼備則是業者大規模部署 AI 的先決條件,大型科技業者如 Google、Facebook、Uber 與 IBM 皆相繼投入此應用。

打破砂鍋問到底的美國國家海洋暨大氣總署

美國國家海洋暨大氣總署 (NOAA) 肩負災害預警與大氣海洋研究的任務,由於需要預測分析大量氣象狀況,因此其資料來源也相當多元,包含網站、衛星、感測器、資料庫等。由於其資料應用強調即時性,過往各自開發模型與資料處理的流程速度過慢以至於跟不上需求,公司因此成立 AI 中心並與 Google 合作,並推出名為「AI2ES Vision」的 AI 策略,從衛星資料開始,逐步整合其他數據源與增強模型測試能力,透過將AI產品化的方式,更快從資料中抽絲剝繭,提供更精準的預測結果。

NOAA 仰賴大量衛星資料進行災害防治與預測。Photo Credit: Howie 提供

摩根史丹利——解除金融業常見的穀倉效應

歷經數年的探索,機器學習與AI在金融業的角色從中後台的風險控制、偵測防弊,逐漸往前台的業務應用發展,身為高度監管的產業,金融業在運用 AI 的速度限制也較其他產業多,國際投行摩根史丹利在六年的試誤中體會到工業化 AI 的競爭優勢。其財富管理部門的 AI 平台負責人 Shailesh Gavankar 認為模型除了要精確外還要能大量且快速的部署,以因應更快的金融市場變遷。由於投行金字塔型的組織架構與嚴謹的文化使得資料科學家的發會空間更為受限,因此公司成立內部沙盒機制 —— Anthem ecosystem,透過單一 API 的機器學習平台連結各種資料與人員,讓業務、AI 開發、部署與維運三大團隊,能透過一個標準化的流程來生產 AI,短時間內產生數千個金融模型,加速其金融服務推出速度。

模型風險控制成為工業化 AI 的守門員

即便許多的企業與機構相繼投入工業化 AI 的運用,快速開發與部署模型固然有規模效益與時間優勢,然而這些模型許多識因應即時需求 (如環境變動或消費者行為改變) 而產生,因此是否能在長時間中繼續使用仍是個謎;再者,若有數百個模型同時需要校正與修改也會是個巨大工程 (想想如果你一次寫出一千個方程式找出一千個最適解,但半天後因為要找另外一千個最適解,光修正跟找答案就要你半條命了)。因此模型風險控制 (Model Risk Management,MRM) 便成為工業化 AI 的馬其諾防線,MRM 根據 AI 團隊與利害關係人的需求,不斷檢視基礎架構、資料量、模型本身信度與效度,以及環境變化,徹底打破穀倉效應,使模型偏誤達到最小,大型顧問公司、科技業者與國際銀行越來越重視 MRM 的運用。

技術只有應用了才具備價值,AI 技術確實到了規模化應用的轉折點,各種基礎設施逐漸完善,且各種應用逐步在各種行業落地,不論是政府還是企業都是其雖隨者。從探索,走出實驗室到應用於在產業領域,1950 年代就出現的人工智慧終於要融入人們的生活,AI 之父圖靈應該對此感到相當欣慰吧!

責任編輯:Mia
核稿編輯:Anny

延伸閱讀:



遊戲進軍海外市場,使用者體驗外更要注重用戶隱私安全

近年來遊戲產業蓬勃發展,但也同時引來了大量的 DDoS 攻擊。除了提供遊戲玩家良好流暢的遊戲體驗,防範惡意攻擊也是遊戲產業發展的重點項目。
評論
評論

隨著科技日新月異、加上新冠肺炎席捲全球,大家「宅在家」的時間也越來越長。也就是說,人們需要花更多時間,透過網路與線上的各項服務,滿足自己工作、學習、娛樂等需求。

Photo Credit: Akamai

然而,這同時也代表著各類線上或網路的服務將面臨更多安全攻擊。據統計,光是 2020 年,全球的勒索軟體攻擊事件就增加了 715%,網路釣魚攻擊增加了 600%,上半年 DDoS 攻擊事件也增加了 151%。

遊戲產業,已成 DDoS 主要目標之一

對於遊戲產業來說,本來可以借著網路的蓬勃發展,將服務擴廣至到全球市場,不過也必然會在安全和用戶體驗等方面遇到更多挑戰。舉例來說,阻斷服務攻擊(DDoS)是一種常見攻擊方式,並已成為遊戲產業所面臨的最主要攻擊方式之一。根據 Akamai 威脅研究人員在 2019 年 7 月至 2020 年 6 月期間的調查,發現了超過 3000 起針對遊戲產業的 DDoS 攻擊!

Photo Credit: Akamai

面對 DDoS 攻擊,玩家遊戲體驗大受影響,遊戲廠商收入和品牌聲譽受到損害,你該如何應對?

Akamai 幫你有效緩解

要想守護遊戲安全,需要遊戲公司、遊戲玩家共同承擔責任,單打獨鬥很難應對海外攻擊的大幅增長。對此,Akamai 將 Prolexic DDoS 與 IP Protect 技術相結合,通過簡單有效的方法保護資料中心內所有以 Web 和 IP 為基礎的應用程式免受 DDoS 攻擊,減少停機時間,幫助遊戲廠商為玩家提供提供沉浸式遊戲體驗,提升玩家黏著度,提高企業營收,保護品牌信譽。

面對 DDoS 攻擊的企業將能通過 Akamai 清洗中心重定向網路流量,只允許乾淨的流量轉發,從而有效抵禦 DDoS 攻擊。同時 Akamai 安全營運指揮中心(SOCC)的專家還可協助客戶量身打造主動破解的控制措施,以便即時發現並有效阻止攻擊,並對其餘流量進行即時分析,作為擬定下個階段因應措施的參考。

Photo Credit: Akamai

Prolexic 的主動破解控制如今已經可以「零秒」抵擋超過三分之二的 DDoS 攻擊,並以業界領先的破解時間 SLA 為後盾,為客戶的線上服務提供完全託管的 DDoS 防護服務,快速緩解大規模、即流量來到 TB 等級的 DDoS 攻擊。

案例分享:Smilegate West的 玩家體驗革新之路 

在南美和北美地區排名第一的遊戲發行商 SmilegateWest 透過自家的遊戲平臺 Z8 Games 發行了很多廣受歡迎的線上遊戲,該公司也是「穿越火線(CROSSFIRE)」在美洲、歐洲以及中東和北非地區的代理。對於這樣的一個遊戲平臺,Smilegate West 的收入和聲譽高度取決於其所營運線上遊戲的速度和穩定性,因此他們非常重視 DDoS 攻擊。

作為一款大受歡迎的第一人稱線上射擊遊戲,穿越火線在全球的玩家數量始終維持在數百萬人之多。雖然該遊戲可以免費遊玩,但大量忠實玩家也非常願意透過付費獲得更好的武器、防禦克貝以及其他有助於提高成績和排名的裝備。

談到遊戲的營運思維,Smilegate West 資深 IT 基礎架構和安全經理 Arash Haghighi 說:「在類似穿越火線這樣的遊戲中,速度和快速的決策能力非常重要,有時候甚至 1 毫秒的延遲也會對玩家得分產生負面影響,斷線的後果更為嚴重。我們希望玩家盡可以獲得最佳的遊戲體驗,因此降低延遲並提供穩定可靠的網路,一直是我們最重視的目標。」

Photo Credit: Akamai

Haghighi 負責了該公司在全球部署的多個資料中心,需要確保無論有多少玩家,IT 基礎架構都能為穿越火線以及其他遊戲提供快速、穩定的遊戲體驗。然而頻繁遭遇的 DDoS 攻擊成了 Haghighi 最頭痛的問題。尤其是現今的 DDoS 攻擊無論是在規模或是複雜性等方面都有了明顯的增長,且遊戲產業已成為攻擊者眼中的重要目標。洶湧而來的攻擊很容易就會讓伺服器徹底崩潰,瞬間影響數千名玩家。他們甚至遇到了一些更有針對性的攻擊,可以通過增加延遲的方式讓某些玩家在對戰過程中更具優勢。

「當玩家在玩某款遊戲遇到糟糕的體驗後,他們會非常積極地透過論壇和社群向全世界大肆宣傳,這很可能導致我們的市場佔有率被競爭對手搶走。」Haghighi 對於這種問題有極大的感觸。

行雲流水般的,無懼 DDoS 威脅

近些年,Smilegate West 一直在 Akamai 的幫助下有效抵擋 DDoS 攻擊,確保能為全球玩家提供流暢的遊戲體驗。尤其是在 Akamai Prolexic Routed 的幫助下,他們甚至成功緩解了最大規模、最複雜的攻擊。

借著 Akamai 雲端 DDoS 抵擋服務的容量和威脅情報,Smilegate West 成功抵擋了巔峰值流量超過 400 Gbps 的攻擊,並瞬間恢復了正常運作。

Akamai 工程師 24/7 全天候分析流量模式並提供新篩檢程式的做法也讓他們更具信心。

在透過 Akamai 安全營運回應中心(SOCC)及時回應最新威脅的同時,他們還可以通過一個專用的帳戶密切監視各項網路活動,並針對諸如封包丟失、延遲、連線品質等關鍵指標獲得即時資訊。

Photo Credit: Akamai

為全球化營運保駕護航

DDoS 攻擊可能來自全球任何一個角落,而 Akamai 遍佈全球的 20 個據點可以有效阻止攻擊流量進入 Smilegate West 的資料中心。由於該公司玩家遍佈全球,每年還會在巴西、加拿大、中國、埃及、土耳其和美國等地舉辦多場比賽,因此 DDoS 抵擋服務的規模和覆蓋範圍也就顯得更加重要。而無論 Smilegate West 將業務拓展到哪裡,都可以獲得 Akamai 的妥善保護。

同樣借助 Akamai 遍佈全球的雲端,Smilegate West 還可以在 CDN 加速、遊戲下載和更新速度以及邊緣交付等領域獲得巨大價值。對玩家來說,這意味著遊戲和更新的下載速度更快,遊玩體驗也有了進一步提升。

在此基礎上,Smilegate West 也進一步加深了與 Akamai 的合作,開始借助 Akamai 的 Web Application Protector 解決方案為遊戲後端系統提供安全防護。

 

我們與 Akamai 的關係並不僅僅是客戶與提供商,而是朋友和夥伴。
——Arash Haghighi,Smilegate West 資深 IT 基礎架構和安全經理

歡迎訪問 Akamai 官網,了解更多行業案例及資訊。

本文由「Akamai」提供,經關鍵評論網媒體集團廣編企劃編審。