
全球最在搶!利潤高達 1000% 的硬體產品:Nvidia H100 晶片為何如此搶手?

隨著 ChatGPT 在全球掀起了 AI 人工智慧熱潮,科技產業積極擁抱這項新技術,而大量的需求則導致晶片短缺。人工智慧新創公司 Dougami 的執行長 Jean Paoli 更指出,此刻來說,晶片是一種稀土元素。
科技公司通常會透過 Google、微軟和亞馬遜等公司的雲端服務,透過大型企業提供的人工智慧晶片、運算能力,與專用網路設備連接的電腦伺服器,這些中小型的企業就不必自己建立和營運數據中心。
由於全球對於晶片的需求旺盛,再加上微軟(Microsoft)和 Google 也正在開發 AI 驅動的生成式搜尋引擎,NVIDIA 的 H100 晶片成為全世界最搶手的產品之一,企業訂單不僅大塞車,更讓市值飆升至一兆美元的 NVIDIA 創下業績新高。
為 AI 量身打造的晶片,連特斯拉都買不到
NVIDIA 的 H100 AI 晶片以電腦科學家 Grace Hopper 的名字命名,是一款專為生成式 AI 量身定制的晶片,運行速度也比之前的型號更快、更強大。
據《巴倫周刊》專欄作家發文指出,NVIDIA 的 H100 AI 晶片,利潤高達 1000%。 一張 H100 GPU 的成本約 3320 美元,但由於市場一直缺貨,賣出的價格大約落在 2.5 萬至 3 萬美元。外界更指出,在某些情況下,銷售價已達到約 7 萬美元。
AI 的爆炸式成長,代表各大企業訂單的等待時間將會變得更長,在某些情況下甚至可能長達一年。通常有規模、財力和市場地位的大型科技公司可以更容易地取得 GPU,而沒有人脈關係或消費能力的新創企業和研究人員就只好陷入無止盡的等待。
就連忙著和祖克伯(Mark Zuckerberg)線上吵架的特斯拉創辦人馬斯克(Elon Musk),也不忘抽出時間關注 NVIDIA 晶片的稀缺性。
特斯拉正斥資 10 億美元打造一台名為 Dojo 的新型超級電腦,用來加速自駕電腦進化。馬斯克表示,Dojo 計劃之所以開始,只是因為特斯拉沒有足夠的 NVIDIA GPU,「坦白說,如果他們能為我們提供足夠的 GPU,我們可能就不需要 Dojo。」
另一個有錢有勢的買家代表,還包括沙烏地阿拉伯以及阿拉伯聯合大公國,據稱,這兩個國家已經搶購了數千顆這價值 4 萬美元的晶片來打造自己的 AI 應用程式,為的是不在 AI 領域仰賴美國或中國。
有趣的是,H100 的短缺也成為了網路迷因題材,以 Billy Joel 的《We Did't Start the Fire》為曲調改編的《GPUs Are Fire》就唱出了這種無奈:
GPUs are fire, we can never find ‘em but we wanna buy ‘em.
NVIDIA 晶片難求,各大企業推解決方案
隨著生成式 AI 新創公司試圖想要搭上這波熱潮、擴大營運規模,卻苦於搶不到最重要的 H100 晶片,讓亞馬遜和 Google 的類 NVIDIA 晶片獲得市場的機會,包括亞馬遜自研 AI 晶片 AWS Trainium、AWS Inferentia 和 Google 的 TPU(Tensor processing unit)。
為了解決晶片難求的問題,市場上更出現企業提供新創企業和研究人員少量購買 GPU 的服務。San Francisco Compute Group 兩位創辦人 Evan Conrad 和 Alex Gajewski 上個月宣布,他們已經獲得了 512 顆 NVIDIA 的 H100 晶片,並將把會出租給有興趣的各方。這一消息立刻在網路上快速傳播,並收到了來自企業創辦人、和各大研究組織的訊息。
專注於雲端和 AI 的 Gartner 分析師 Arun Chandrasekaran 表示,獲得基礎設施的使用權是一回事,但當企業想擴展應用程式,卻沒有足夠的可用容量又是另一回事了,「我認為這些挑戰需要一些時間才能真正平息。」
參考資料:The New York Times、QUARTZ
責任編輯:Sisley
核稿編輯:Jocelyn
快加入 INSIDE Google News 按下追蹤,給你最新、最 IN 的科技新聞!
延伸閱讀:
- 微軟、NVIDIA 都成 Lapsus$ 駭客對象!未來怎麼防?美國政府籲:無密碼登入
- 中國網路巨頭瘋屯 NVIDIA AI 晶片,訂單價值已達 50 億美元
- 不給 AMD 太多機會?NVIDIA 推升級版 GH200 超級晶片,明年 Q2 就量產
最新發展: