全球最在搶!利潤高達 1000% 的硬體產品:Nvidia H100 晶片為何如此搶手?

就連忙著和祖克伯(Mark Zuckerberg)線上吵架的特斯拉創辦人馬斯克(Elon Musk),也不忘抽出時間關注 NVIDIA 晶片的稀缺性。網路上更有以「買不到 GPU」為主題的歌曲在傳唱......
評論
NVIDIA H100
NVIDIA H100。Photo Credit : NVIDIA。
評論

隨著 ChatGPT 在全球掀起了 AI 人工智慧熱潮,科技產業積極擁抱這項新技術,而大量的需求則導致晶片短缺。人工智慧新創公司 Dougami 的執行長 Jean Paoli 更指出,此刻來說,晶片是一種稀土元素。

科技公司通常會透過 Google、微軟和亞馬遜等公司的雲端服務,透過大型企業提供的人工智慧晶片、運算能力,與專用網路設備連接的電腦伺服器,這些中小型的企業就不必自己建立和營運數據中心。

由於全球對於晶片的需求旺盛,再加上微軟(Microsoft)和 Google 也正在開發 AI 驅動的生成式搜尋引擎,NVIDIA 的 H100 晶片成為全世界最搶手的產品之一,企業訂單不僅大塞車,更讓市值飆升至一兆美元的 NVIDIA 創下業績新高。

為 AI 量身打造的晶片,連特斯拉都買不到

NVIDIA 的 H100 AI 晶片以電腦科學家 Grace Hopper 的名字命名,是一款專為生成式 AI 量身定制的晶片,運行速度也比之前的型號更快、更強大。

據《巴倫周刊》專欄作家發文指出,NVIDIA 的 H100 AI 晶片,利潤高達 1000%。 一張 H100 GPU 的成本約 3320 美元,但由於市場一直缺貨,賣出的價格大約落在 2.5 萬至 3 萬美元。外界更指出,在某些情況下,銷售價已達到約 7 萬美元。

AI 的爆炸式成長,代表各大企業訂單的等待時間將會變得更長,在某些情況下甚至可能長達一年。通常有規模、財力和市場地位的大型科技公司可以更容易地取得 GPU,而沒有人脈關係或消費能力的新創企業和研究人員就只好陷入無止盡的等待。

就連忙著和祖克伯(Mark Zuckerberg)線上吵架的特斯拉創辦人馬斯克(Elon Musk),也不忘抽出時間關注 NVIDIA 晶片的稀缺性。

特斯拉正斥資 10 億美元打造一台名為 Dojo 的新型超級電腦,用來加速自駕電腦進化。馬斯克表示,Dojo 計劃之所以開始,只是因為特斯拉沒有足夠的 NVIDIA GPU,「坦白說,如果他們能為我們提供足夠的 GPU,我們可能就不需要 Dojo。」

另一個有錢有勢的買家代表,還包括沙烏地阿拉伯以及阿拉伯聯合大公國,據稱,這兩個國家已經搶購了數千顆這價值 4 萬美元的晶片來打造自己的 AI 應用程式,為的是不在 AI 領域仰賴美國或中國。

有趣的是,H100 的短缺也成為了網路迷因題材,以 Billy Joel 的《We Did't Start the Fire》為曲調改編的《GPUs Are Fire》就唱出了這種無奈:

GPUs are fire, we can never find ‘em but we wanna buy ‘em.

NVIDIA 晶片難求,各大企業推解決方案

隨著生成式 AI 新創公司試圖想要搭上這波熱潮、擴大營運規模,卻苦於搶不到最重要的 H100 晶片,讓亞馬遜和 Google 的類 NVIDIA 晶片獲得市場的機會,包括亞馬遜自研 AI 晶片 AWS Trainium、AWS Inferentia 和 Google 的 TPU(Tensor processing unit)。

為了解決晶片難求的問題,市場上更出現企業提供新創企業和研究人員少量購買 GPU 的服務。San Francisco Compute Group 兩位創辦人 Evan Conrad 和 Alex Gajewski 上個月宣布,他們已經獲得了 512 顆 NVIDIA 的 H100 晶片,並將把會出租給有興趣的各方。這一消息立刻在網路上快速傳播,並收到了來自企業創辦人、和各大研究組織的訊息。

專注於雲端和 AI 的 Gartner 分析師 Arun Chandrasekaran 表示,獲得基礎設施的使用權是一回事,但當企業想擴展應用程式,卻沒有足夠的可用容量又是另一回事了,「我認為這些挑戰需要一些時間才能真正平息。」

參考資料:The New York TimesQUARTZ

責任編輯:Sisley
核稿編輯:Jocelyn

快加入 INSIDE Google News 按下追蹤,給你最新、最 IN 的科技新聞!

延伸閱讀:

 


 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

最新發展:


公有雲無限儲存時代結束, Synology Drive 如何協助企業掌握成本與資料自主權?

不少企業因為檔案存取的即時性以及同時團隊協作功能,選用雲端儲存解決方案。
評論
評論

顧問公司 GoodFirms 就指出,全球已有 94% 企業正在使用雲端,並將超過 60% 資料存於當中。而這些資料裡面有近一半屬於敏感類型,包括員工和客戶資料、企業財務數據以及知識產權。

然而,近期許多提供無限儲存方案的公有雲廠商,紛紛調整服務條款:Google Workspace 取消了教育和企業的無限儲存方案,2023 年 Microsoft 和 Dropbox 的類似方案同樣跟進結束,導致儲存成本將大幅增加。同時,公有雲端空間潛在的隱私與安全性風險,也逐漸成為企業日益關注的問題,Synology 就收到不少企業用戶反映了類似困擾。

為了滿足企業「最小化儲存空間成本」與「資料所有權」兩項條件,私有雲將是更適合的解決方案。Synology 推出的私有雲檔案平台 Synology Drive,便是運行在企業本地端 Synology 伺服器上,不僅提供高度穩定性和可用性,並可依使用量彈性擴張,消除對第三方服務提供商的依賴。以下就列舉 Synology Drive 如何協助企業面對儲存空間需求增長、安全性的關鍵優勢:

輕鬆擴充空間又無須支付授權費,打造企業專屬檔案管理與協作平台

首先,Synology Drive 無須額外支付訂閱費用,組織只須隨著使用需求,購買適合容量的硬體設備即可,就算未來需求成長亦能輕鬆擴張容量,有助於最小化上雲的成本。相較於市售公有雲服務如商用情境常見的 Google Workspace,假設每位用戶都配置 2TB 儲存空間,每月即須支付 360 元,每年就得花費超過 4000 元,還得擔心未來訂閱方案更動、負擔更多成本。

不只免除雲端服務的訂閱費用,以及充足的擴充彈性,企業選擇 Synology Drive 的同時,還能使用一樣免授權費用的 Synology Office,團隊得以更即時且安全地在私有雲上協作,編輯和分享文件、簡報及試算表,加速團隊溝通效率與生產力。

當然,考量到企業仍有部署公有雲的需求,因此 Synology Drive 亦整合了 Synology C2 Storage 和其知名公有雲服務商,企業得以創建混和雲架構,像是雲地之間能輕鬆達成即時同步,甚至是備份資料,保持營運不中斷。

交還資料自主權,並針對檔案版本與分享設計安全功能

下一個優勢,為 Synology Drive 能幫助企業擁有 100% 資料控制權,敏感與機密類型的資料都可掌握在手中,保證其安全性和隱私權。Synology 也提供多種免受權的資料備份服務,幫助 IT 人員在有限預算之下,為寶貴營運資料做好檔案、系統到裝置的多層次保護機制。

另外,資料安全性涉及的範圍相當廣泛,Synology 從客戶實際使用情景,預先設計了許多應對功能。例如用戶可回溯資料的特定歷史版本,甚至能永久保存被刪除的檔案,大幅降低檔案遺失或誤刪的風險。Synology Drive 還能為整個資料夾或單一檔案加上浮水印,確認外流來源,甚至碰到裝置遺失時,可遠端移除已同步的資料夾,防止資料外洩。

Synology Drive 提供完整且便利的公開連結設定功能,可以規範外部使用者的權限,並能設置密碼、連結有效期限等安全措施。Photo Credit : Synology

行政院原子能委員會核能研究所就看中 Synology Drive 上述優勢,替換掉傳統 SMB 服務,建置高度安全且直覺操作的私有雲檔案協作平台。由於單位需長期保存研究資料,勢必需不斷擴充儲存空間,受惠於免授權費的模式,即便高達千人的規模也能符合預算需求。

另外核研所內部合作頻繁,還有許多對外分享檔案需求,而 Synology Drive 可為資料設定精細的權限,區分出檢視、評論與編輯角色,亦可規範外部對象能否下載或刪除、設定開啟密碼與檔案分享的到期日等。該單位就分享,「Synology Drive 的第一個優勢是安全性高,其次是使用的直覺便利性,第三個是價格,過去我們使用過多個品牌,Synology 性價比絕對是最佳的。」

總結來說,面對各大公有雲服務商逐步取消無限儲存方案而來的儲存成本上升,以及資訊隱私性的挑戰,Synology Drive 私有雲儲存解決方案具備擴充彈性、100% 資料自主權,且無需支付授權費,即可享有便於企業協作、共享,且能在客戶端與伺服器端安全同步資料,更適合為當前企業建置完整的資料儲存與保護架構。

Photo Credit:Synology

本文章內容由「 Synology 」提供。