【NVIDIA GTC 2020】一切都是為了 AI,今年有劍橋超級電腦、Arm 還有 DPU

NVIDIA 今年 GTC 主題其實某種程度上來說很簡單:AI,AI,還是 AI!
評論
Photo Credit:NVIDIA
評論

受到疫情影響,NVIDIA 每年一度的 GPU 技術大會(GTC)也全部移到線上舉行。今年主題其實某種程度上來說很簡單:AI,AI,還是 AI!但到底要怎麼把 GPU 運用在各行各業的 AI 上,就是 NVIDIA 想做的大哉問了,執行長黃仁勳也一口氣在線上主題演講中發表了多項重量級訊息。就讓 INSIDE 為讀者們一一整理介紹吧!

協作平台 NVIDIA Omniverse 開放 Open Beta

NVIDIA Omniverse 是即時線上的 GPU 3D 模擬協作平台,使用了 Pixar 所開發的開源 3D 場景、檔案格式(Universal Scene Description),可以讓設計師、開發者直接在線上對 3D 建模進行協作,舉個例子,像台灣、美國的動畫團隊就可以直接在 Omniverse 上開 3D 專案繪製動畫,或是讓汽車工程師在 Omniverse 的 3D 環境裡同時模擬與調整自動功能。目前 Adobe、Autodesk、Bentley Systems、Robert McNeel&Associates 和 SideFX 都進入了 Omniverse 線上支援。Omniverse 於 2019 年 3 月首次發表,但今天釋出 Open Beta。

公布英國劍橋的醫學超級電腦:Cambridge-1!

之前 NVIDIA 在收購 Arm 時曾提到將在英國劍橋建立一個新的全球 AI 研究中心,並投資一台最先進的 Arm-powered AI 超級電腦:今天有了最新進展,雖然並非 Arm-powered 架構,但 NVIDIA 今天公開基於 NVIDIA DGX SuperPOD 架構,英國史上性能最高的超級電腦「Cambridge-1」!

Cambridge-1 耗費約 4000 萬英鎊,效能可達 400 petaflops AI 性能和 8 petaflops的 Linpack 性能,擠身進世界 500 大超級電腦第 29 名,還是世界前三大最節能的超級電腦之列。面對武漢肺炎的迫切公衛挑戰,Cambridge-1 主要會運用在醫療領域、生命科學上。

除此之外, NVIDIA 也公布醫療 AI 模型 NVIDIA Clara Discovery 跟 Cambridge-1 搭配,透過跟 GSK 等公司合作,使用重要遺傳、基因組資料庫提供預先訓練的 AI 模型和特定的應用程序框架,來加速藥物、疫苗的設計和開發流程;除了具備整合醫療影像的能力之外,NVIDIA Clara Discovery 甚至還具備自然語言處理能力,可以讓研究人員利用特定於生物醫學的語言模型來組織、理解醫學文獻、論文與資料庫,幫助整理現有治療方法和其他重要療法的關聯。

另外要提的是,Cambridge-1 也是 NVIDIA DGX SuperPOD 架構的火力展示,NVIDIA DGX SuperPOD 可讓各企業、組織在數周內就能組裝極為強大的 AI 超級電腦,將以 20 個為一個模組的方式進行銷售,並運用 NVIDIA Mellanox InfiniBand網路技術相互串聯,其 AI 運算效能為 100 petaflops 起跳,並可擴增到 700 petaflops。其叢集規模從 20 個到 140 個獨立的 NVIDIA DGX A100TM 系統不等。

AI 雲端串流影像平台:NVIDIA Maxine

同樣因應武漢肺炎疫情之下的遠端工作需求,NVIDIA 發表了由 GPU 加速的 AI 雲端串遊影像平台 NVIDIA Maxine,它可以一邊使用基於對抗網路的 AI 影像壓縮技術降低串流影像的資料流量(降到 H.264 的 10 分之 1!),另一方面可以透過 GPU,為遠端工作串流視訊提供高超畫質、聚焦、降噪、亮臉等 AI 功能,而且已經跟三大公有雲 Google Cloud、AWS、 Microsoft Azure 以及 ORACLE 開始合作,同時還能搭配自然語言 AI Javis 自動生成字幕。

全新的處理器類種:瞄準資料中心的 NVIDIA 資料處理器 DPU

以前我們有中央處理器 CPU、圖形處理器 GPU,但顯然 NVIDIA 認為這些都還不夠,在之前跟 VMware 一起攜手,用 NVIDIA 的可編程設計「BlueField-2 DPU」推出了混合雲架構。

那 DPU 是什麼呢?今天黃仁勳進一步介紹,當代的資料中是由軟體定義的,也讓資料中需要更靈活得架構兼顧效能與耗能,因此針對大量資料需求設計了一種全新的處理器:資料處理器 DPU。某種程度上可以把 DPU 視為集三個關鍵要素於一身的 SOC,首先事實上搭載多核 CPU 並搭配高速網路端子、各種可程式定義的加速引擎,讓原本 CPU 進行的多項工作流程讓 DPU 負擔,CPU 本身可以把算力集中在更重要核心運用上。

而 NVIDIA 今天推出的,就是 BlueField-2 DPU 產品線,BlueField-2 DPU,搭載 Arm 架構 8 核心 Cortex-A72 並具備 NVIDIA Mellanox Connext-6 SmartNIC 的所有特點,可以完全由軟體定義並提供 200 Gbps 的數據傳輸速率,加速資料中心的資安、傳輸和儲存等關鍵工作,實現等同多達 125 顆 CPU 的任務效能。

BlueField-2X DPU 則擁有 BlueField-2 DPU 的所有關鍵特性,並加上 NVIDIA Ampere GPU 的 AI 功能加以強化用在更大量的影像上傳處理;而為了能夠讓開發人員在 DPU 加速的資料中心用軟體構建應用程式,NVIDIA 還推出類似於 NVIDIA CUDA 的 GPU 加速的開發工具——DOCA 軟體開發工具包。

BlueField DPU 未來還會推出 BlueField-3、3X 以及 BlueField-4 兩代產品,屆時都會導入 Arm 的新型 CPU 架構;其中 BlueField-4 整體效能將會是 BlueField-2 的 1000 倍左右。

邊緣運算 NVIDIA EGX AI 加入 Ampere 與 DPU

針對大型物聯網等邊緣運算需求,NVIDIA 今天更新了原本的 EGX 平台計畫成為「NVIDIA EGX AI」,把剛剛發表的 BlueField-2 DPU 以及 Ampere GPU 整合在單一 PCIe 卡上,試圖透過易於部署的雲端原生應用軟體堆疊加速邊緣運算。

除此之外,今天也發表了平價只要 59 美金的 Jetson Nano 2GB 開發套件,為開發者提供了更便宜、更好上手的人工智慧、機器人入門級套件,在 JetPack SDK 的支援下包含 NVIDIA 容器運行時間和完整的 Linux 軟體開發環境,同時在 CUDA-X 加速運算堆疊下,在自動駕駛汽車、工業物聯網、醫療、智慧城市等領域也創造出突破性的 AI 產品。

NVIDIA 與 Arm 的整合計畫

先前 NVIDIA 正式以 400 億美元併購 Arm,引發業界巨大震撼,而今天黃仁勳進一步公佈了雙方的整合計畫,首先 BlueField-2 DPU 就是一個很明顯的例子,NVIDIA 將會在資料中心、邊緣運算、超級電腦等領域積極將 Arm 架構整合進 NVIDIA 的產品設計中。

核稿編輯:李柏鋒


科技賦能創新突圍——愛酷智能科技舉辦 MarTech Salon,為企業創造數據驅動新價值

自 2018 年成立以來,愛酷智能科技深耕 AI 與 MarTech 領域,在行銷科技應用上擁有專業並豐富的實務經驗。MarTech Salon 系列活動旨在創造一個行銷科技交流平台,透過各領域講師及產業先行者的分享,協助企業掌握 MarTech 新趨勢,在數位新浪潮中搶得先機。
評論
圖片來源:愛酷智能科技
評論

愛酷智能科技於 9/29 (三) 舉辦今年第一場 MarTech Salon「用聊天機器人,輕鬆培養忠誠用戶!」,吸引數百位參與者共襄盛舉,包含中小企業主、品牌行銷人、行銷代理商等經理人。活動分享最新 ChatBot 對話式商務趨勢、顧客數據整合技術、會員標籤應用,並解析 AI 與 MarTech 的策略性思維。

圖片來源:愛酷智能科技

行銷 5.0 時代,One ID 科技賦能

行銷 5.0 的時代注重「技術」與「人性」融合的全方位戰略,打造更完善的顧客體驗 (CX, Customer Experience),加上面對資訊的爆炸,企業的痛點在於多渠道破碎資料整合的困難。

透過 One ID 整合消費者與品牌的互動歷程,企業能夠將匿名資料,即網路上的任何瀏覽行為,納入行銷決策的參考依據。愛酷商務解決方案暨夥伴關係經理 Perry Wang 在分享中提到:「One ID 技術追蹤本我、自我、超我外的第四個我,也就是『匿名我』。」

Perry Wang 舉房仲產業應用做進一步解釋,房仲市場成交的關鍵,在於業務服務的精準度,仔細發掘顧客真正的需求,推薦適合的物件。然而,過往消費者經常心口不一,難以取得真正的需求,透過愛酷 One ID 追蹤技術,能將顧客在網頁瀏覽的物件類型、地段、價格數據一次收整,隨著預約賞屋的名單,派送到業務手中,洞察顧客的行為,進而做到房產智慧推薦,提升成交機會。

運用聊天機器人,打造多元運用情境

「對話式商務」之所以能成為現今極具潛力與商機的行銷模式,原因在於品牌透過通訊軟體主動出擊,能創造與消費者間更多元的接觸點及對話機會。愛酷顧客成功經理 Wayne Chen 在講座中分享使用聊天機器人的六大目的:「聰明運用 ChatBot,將能夠提升行銷溝通效率,滿足『會員募集』、『增加品牌知名度』、『協助客服』、『搜集顧客意見』、『推播再行銷』、『引導購物』。」

活動中,來賓針對聊天機器人服務也萌生許多問題,包含如何評估 ChatBot 需求、需做哪些前置準備等。Wayne Chen 建議企業首先應思考創建聊天機器人的目的,例如:提高來客率、會員系統服務建置、業務轉型等;接著分析企業想搜集的資訊、提供給顧客的服務、用科技解決的行銷問題,進而透過創意活動培養忠誠用戶。

會員精準貼標,創造有效互動

投資對話式商務工具、透過創意增粉操作與用戶互動後,分群分眾與需求深度挖掘則是企業下一步應掌握的重點。愛酷行銷經理 Eason Huang 說明:「透過標籤系統,能逐層剖析顧客的行為輪廓,提升溝通內容的精準性。」愛酷智能科技協助顧客從命名規則著手,將標籤分成靜態、動態類型,並加入標籤層級的關係架構,以達到在對的時間,與對的人,溝通對的內容。

Eason Huang 進一步建議,企業在運用標籤系統與用戶互動時,應至少都包含「完善用戶輪廓」、「探勘用戶興趣」、「引導用戶行為」其一目的,「提升營收」僅是結果。不論是透過靜動標籤調查用戶喜好、推進用戶成為會員或是為了下一次的活動佈局,企業都應制定明確的目標以創造真正有效的互動。

從數據整合技術、聊天機器人應用到標籤深度規劃,愛酷智能科技分享 MarTech 最新趨勢,也透過成功案例說明企業如何在疫情下逆勢成長,培養忠誠會員,並達到會員導流,帶動營業額提升。

未來,愛酷智能科技將持續舉辦 MarTech Salon 系列活動,協助企業掌握 AI 與 MarTech 最新趨勢與應用。歡迎追蹤以下渠道,掌握最新資訊:

本文章內容由「愛酷智能科技」提供,經關鍵評論網媒體集團廣編企劃編審。