AI 新創公司 Featherless.Ai 創辦人 Eugene Cheah 近日撰文指出，輝達旗艦 AI 晶片 H100 GPU 的租賃價格已從峰值的 8 美元/小時崩跌至 2 美元/小時左右，並分析 H100 需求銳減的主要原因。
（前情提要：AMD發布新晶片MI325X力戰輝達；但Nvidia Blackwell未來1年訂單已爆）
（背景補充：Nvidia涉「隱瞞礦工買GPU」超10億美元收入，美國司法部、SEC支持集體訴訟輝達）
在 科技巨頭激烈的 AI 軍備競賽中，輝達（NVIDIA）的旗艦 AI 晶片 H100 GPU 在 2023 年 3 月上市後迅速成為全球最硬通貨，可謂一卡難求。
AI 新創公司 Featherless.Ai 創辦人 Eugene Cheah 近日撰寫一篇題為《2 美元的 H100：GPU 租賃泡沫如何破滅》的觀點文章。
他表示 H100 在算力租賃市場的價格從初期的 4.7 美元/小時，一度飆升至 8 美元以上/小時，不過最近傳出 H100 已供過於求，租賃價格已銳減至 2 美元/小時左右，引發市場對於 GPU 泡沫即將破滅的猜測。
H100 需求銳減原因
Eugene Cheah 分析，H100 需求明顯下滑，租賃市場供應過剩的因素包括：
- 從頭開始訓練新模型的公司減少，中小型公司減少了對基礎模型建設的投資，轉而微調開放的模型，因為這樣比「自己訓練」更經濟、更有效率，導致算力需求顯著減少。
- 預訂 H100 的公司完成模型訓練後，大量轉售閒置和先前預留的未使用算力。
- OpenAI、Meta、X.AI 退出公共算力平台，建立自家價值數十億美元的大型資料中心。
- H200、B200 等新產品的推出。
- 有更便宜的替代品，包括輝達本身更便宜的產品線，以及 AMD 和 Intel 等對手推出更實惠的競品。
- 加密貨幣挖礦 GPU 使用量一直呈下降趨勢，在某些情況下無利可圖，此後一直湧入公共算力平台。
但他也補充， GPU 租賃市場的便宜價格僅出現在中小型規模算力需求，大規模算力仍維持在較高的價格。
延伸閱讀：AI 改變比特幣挖礦！彭博報導：礦企拿 Nvidia H100 對沖 BTC 減半風險
別購買全新 H100，租算力更划算
而對於想投資 AI 領域的投資人，Eugene Cheah 結論是，不要購買全新的 H100，因為可能會造成損失，若有需求可用租賃的方式。他同時建議投資人轉向股票市場等其他地方，以獲得更好的報酬率。
對於一般市場來說，今天投資新的 H100 沒有什麼意義，因為在當前供應過剩的情況下，您可以在需要時以接近成本的價格租賃它。
此外，他也表示 H100 等顯卡租賃價格的下降可能對 AI 發展帶來好處，將加速開放權重 AI 採用和 AI 應用開發的浪潮。
GPU 和 AI 泡沫要破了？輝達 Blackwell 未來 1 年訂單已爆
全球對於輝達 AI 晶片的龐大需求，已讓該公司股價今年飆漲超過 181%，但市場對於 AI 相關項目獲利能力跟不上高昂硬體投資成本的焦慮也持續上升， 導致 AI 和 GPU 泡沫論在今年甚囂塵上。
先前傳出輝達下一代旗艦晶片 Blackwell 架構系列因設計存在挑戰恐導致延遲出貨。不過黃仁勳已確認，儘管遇到設計挑戰，Blackwell 晶片的生產不會延期，預計 Q4 上市。
摩根士丹利分析師本月在報告指出，NVIDIA 的 Blackwell 晶片市場需求相當旺盛，未來 12 個月左右的供應已經被搶購一空，「將推動對現有的 Hopper 架構產品的強勁短期需求」，看好輝達一年的出貨量將維持高成長，繼續擴大其 AI 晶片的市占率。
📍相關報導📍
馬斯克xAI推出地表最強AI訓練系統「Colossus」：集成十萬張輝達H100晶片
中國警告陸企「別買輝達AI晶片」改買華為，寒武紀、中芯股價暴漲20%
