H100去哪兒了？

編輯｜Panda

「H100 是不是突然從所有平臺(tái)上消失了？」

X 用戶 Jino Rohit 發(fā)出的這個(gè)疑問在社交媒體上迅速擴(kuò)散，引發(fā)了 AI 圈的廣泛共鳴。就連曾參與創(chuàng)立 OpenAI、被無數(shù)開發(fā)者奉為學(xué)習(xí)標(biāo)桿的 Andrej Karpathy 也忍不住發(fā)聲，感嘆 H100 的獲取難度正在成為人們參與 AI 研究和學(xué)習(xí)的真實(shí)瓶頸。

所以，到底發(fā)生了什么？為什么所有人都感覺 H100 的市場(chǎng)供應(yīng)明顯下降了？

事實(shí)上，這并不是一時(shí)的市場(chǎng)波動(dòng)，也不是某個(gè)平臺(tái)的運(yùn)營(yíng)問題。這是一場(chǎng)正在悄然改變 AI 產(chǎn)業(yè)格局的算力危機(jī)。而它的核心，遠(yuǎn)比「芯片不夠用」復(fù)雜得多。

消失的 H100

如果你在 2026 年初嘗試從 AWS、Google Cloud 或 Azure 的標(biāo)準(zhǔn)渠道租用 H100，大概率會(huì)碰壁。

SemiAnalysis 在今年 4 月發(fā)布的報(bào)告用一句話類比了這種荒誕：「找 GPU 算力就像在最后一班飛機(jī)起飛前訂機(jī)票 —— 價(jià)格奇高，座位幾乎沒有。」

數(shù)字可以說明問題的嚴(yán)重程度。

H100 SXM5 的一年期租約合同價(jià)格，從 2025 年 10 月的 1.70 美元/小時(shí)/GPU 低點(diǎn)，一路飆升至 2026 年 3 月的 2.35 美元/小時(shí)/GPU，漲幅接近 40%

https://semianalysis.com/gpu-pricing-index/

與此同時(shí)，SiliconData 的 H100 超大規(guī)模指數(shù)在 4 月底進(jìn)一步跳漲至7.49美元。這是一個(gè)反直覺的現(xiàn)象 —— 明明更強(qiáng)大的下一代 Blackwell 架構(gòu)芯片已經(jīng)開始出貨，上一代 H100 的價(jià)格卻不降反升。

https://www.silicondata.com/products/silicon-index

在直接采購(gòu)渠道，情況更為嚴(yán)峻。來自 Spheron 的數(shù)據(jù)顯示，H100 SXM5 的交貨周期目前普遍在36 至 52 周之間；H200 更長(zhǎng)，超過 40 周；而最新的 B200 的可用產(chǎn)能已被預(yù)訂至 2027 年下半年。一家 AI 研究機(jī)構(gòu)描述了切身遭遇：原本預(yù)算 4 萬美元的 Q2 訓(xùn)練任務(wù)，在找不到預(yù)留算力的情況下，轉(zhuǎn)向按需定價(jià)后成本飆升至 8 至 12 萬美元 —— 如果還能找到算力的話。

https://www.spheron.network/blog/gpu-shortage-2026/

數(shù)據(jù)中心層面同樣告急。一份提交給美國(guó)證券交易委員會(huì)的文件顯示，截至 2026 年初，北美數(shù)據(jù)中心的空置率已降至歷史最低的 1.6%，全球 AI 相關(guān)支出預(yù)計(jì)在 2026 年達(dá)到 2.52 萬億美元，同比增長(zhǎng) 44%。市場(chǎng)上所有計(jì)劃在 2026 年 8 至 9 月前上線的算力，據(jù)報(bào)道已被全部預(yù)訂一空。

https://www.sec.gov/Archives/edgar/data/1446159/000117184326002096/exh_991.htm

那么，是誰在推高算力需求？

很顯然，文章開始處的那條推文與 Karpathy 的感嘆并非無的放矢，這也讓 AI 的門檻從能力門檻變成了資源門檻。正如 X 網(wǎng)友 Rahul Chavan 調(diào)侃的那樣：「英偉達(dá)悄然成為了整個(gè)行業(yè)的瓶頸」。

具體來看，將 H100 從市場(chǎng)上「抽走」的，是一批體量遠(yuǎn)超個(gè)人研究者的超級(jí)買家。

微軟、谷歌、Meta、亞馬遜在 2025 年就已相繼簽下數(shù)十億美元的 Blackwell GPU（GB200、B200）前置訂單，將英偉達(dá) 2026 年全年乃至 2027 年初的可用產(chǎn)能基本鎖定。這種提前布局的能力，直接將中型企業(yè)和學(xué)術(shù)研究者擠出了正規(guī)采購(gòu)渠道。

正如行業(yè)分析所指出的，這里存在一個(gè)顯著的不對(duì)稱性：超大規(guī)模云廠商和資金雄厚的前沿實(shí)驗(yàn)室，在危機(jī)真正爆發(fā)前的一兩年里就通過遠(yuǎn)期合同鎖定了供應(yīng)。而其他所有人，只能競(jìng)爭(zhēng)那些未被預(yù)留的現(xiàn)貨和按需算力。

這批算力需求的規(guī)模令人震驚。OpenAI 承諾為下一代 AI 基礎(chǔ)設(shè)施部署至少 10 吉瓦的英偉達(dá)系統(tǒng)；Anthropic 計(jì)劃采用 1 吉瓦的 Grace Blackwell 計(jì)算容量；摩根士丹利預(yù)測(cè)，僅英偉達(dá)平臺(tái)的 AI 服務(wù)器機(jī)柜需求，就將從 2025 年的約 2.8 萬臺(tái)躍升至 2026 年的至少 6-7 萬臺(tái)，規(guī)模翻倍有余。

超大規(guī)模算力的競(jìng)爭(zhēng)，甚至已經(jīng)從商業(yè)層面上升到地緣政治層面，「算力」也似乎正在成為國(guó)家競(jìng)爭(zhēng)的戰(zhàn)略資源。

真正的瓶頸：不是 GPU，是內(nèi)存和封裝

理解這場(chǎng)危機(jī)，有一個(gè)關(guān)鍵認(rèn)知需要厘清：短缺的核心不是 GPU 芯片本身，而是圍繞芯片的內(nèi)存封裝工藝。

Spheron 的分析一語中的：這是「一個(gè)有兩個(gè)根本原因的結(jié)構(gòu)性問題：臺(tái)積電的 CoWoS 封裝產(chǎn)能已被全部占滿，SK 海力士的 HBM 產(chǎn)量無法跟上需求。」

HBM 的生產(chǎn)困境

高帶寬內(nèi)存（HBM）是現(xiàn)代 AI 芯片的核心組件，H100 使用 HBM3，H200 和整個(gè) Blackwell 系列則需要更先進(jìn)的 HBM3e。全球有能力生產(chǎn) HBM 的廠商只有三家：SK 海力士、三星和美光，而它們同時(shí)要為英偉達(dá)、AMD 和英特爾供貨，同時(shí)又在爭(zhēng)奪相同的 HBM 分配量。

HBM3e 的生產(chǎn)比 HBM2e 更為苛刻 —— 更高的芯片堆疊數(shù)量和更嚴(yán)格的公差意味著每片晶圓的良率更低。隨著 Blackwell 架構(gòu)加速量產(chǎn)，對(duì) HBM3e 的需求持續(xù)攀升，直接加劇了本已捉襟見肘的 H100/H200 供應(yīng)。

TrendForce 的研究報(bào)告指出，從 2023 年到 2026 年，全球 HBM 總需求增長(zhǎng)了約 3.8 倍（從 1.5BGB 到 5.7BGB）。三家供應(yīng)商都有各自的擴(kuò)產(chǎn)計(jì)劃，但新工廠從建設(shè)到量產(chǎn)，需要不少時(shí)間。

CoWoS 封裝：另一道卡脖子工序

臺(tái)積電的 CoWoS（晶圓上晶片上基板）技術(shù)是將 HBM 芯片鍵合到 GPU 基板的必要工藝。目前，這一封裝產(chǎn)能已被預(yù)訂至至少 2027 年中期 —— 事實(shí)上，部分訂單的可見度已延伸至 2028 年。

https://www.digitimes.com.tw/tech/dt/n/shwnws.asp

TrendForce 預(yù)計(jì)臺(tái)積電 CoWoS 產(chǎn)能將在 2025 年達(dá)到每月約 7.5 萬片晶圓，并在 2026 年底達(dá)到約 12 至 13 萬片，但增長(zhǎng)速度仍跟不上需求。

CoWoS 是 GPU 產(chǎn)量的瓶頸。當(dāng)封裝產(chǎn)能擴(kuò)充時(shí)，GPU 出貨量才能真正提升；而在此之前，即便芯片制造工藝一切正常，也無法解決供應(yīng)不足的問題。

HBM 短缺的連鎖效應(yīng)

HBM 的供應(yīng)緊張不僅僅讓數(shù)據(jù)中心 GPU 變得稀缺，還產(chǎn)生了多重連鎖反應(yīng)：

其一，消費(fèi)級(jí) GPU 生產(chǎn)被大幅削減。據(jù)供應(yīng)鏈媒體 Benchlife 等來源的報(bào)道，英偉達(dá)在 2026 年上半年將 RTX 5000 系列（Blackwell 架構(gòu)）產(chǎn)量削減了 30 至 40%，直接原因是 GDDR7 內(nèi)存供應(yīng)緊張，以及公司戰(zhàn)略向數(shù)據(jù)中心 SKU 傾斜。消費(fèi)級(jí) GPU 市場(chǎng)如今同樣干涸。

其二，HBM 的緊缺推高了 GPU 的整體租用成本，即使是手頭有庫(kù)存的云服務(wù)提供商，也面臨更高的硬件采購(gòu)成本，并將其傳導(dǎo)至租價(jià)。這解釋了為何 H100 的現(xiàn)貨價(jià)格沒有因?yàn)?Blackwell 的出現(xiàn)而崩塌。

其三，AI 對(duì)內(nèi)存的吞噬已經(jīng)蔓延到了整個(gè)芯片產(chǎn)業(yè)鏈。正如機(jī)器之心此前報(bào)道的，HBM 緊缺的壓力正在向普通 DRAM、LPDDR 甚至 CPU 市場(chǎng)傳導(dǎo)。參閱《離譜：256G 內(nèi)存比 RTX5090 還貴，你要為 AI 買單嗎？》

誰在受傷？危機(jī)對(duì) AI 生態(tài)的沖擊

算力危機(jī)的影響并不均勻分布，它沿著資源能力的梯度，將 AI 生態(tài)的參與者劃分成了截然不同的處境。

中小型團(tuán)隊(duì)：被迫重新規(guī)劃

按照 Spheron 的分析，算力危機(jī)對(duì) AI 團(tuán)隊(duì)產(chǎn)生了三個(gè)層面的沖擊：

• 訓(xùn)練延誤：規(guī)劃在 2026 年第二季度開展訓(xùn)練的團(tuán)隊(duì)，發(fā)現(xiàn)超大云平臺(tái)的預(yù)留算力已被現(xiàn)有客戶鎖定，按需定價(jià)的成本高出 2 至 3 倍，且隨時(shí)可能無法獲得算力。
• 推理成本激增：H100 按需價(jià)格的上漲讓部分面向用戶的 API 服務(wù)面臨單 token 成本超出盈利臨界點(diǎn)的困境，被迫轉(zhuǎn)向更小的模型或更廉價(jià)的 GPU—— 這不是架構(gòu)選擇，而是財(cái)務(wù)必要。
• 規(guī)劃周期崩潰：過去企業(yè)可以「需要時(shí)再購(gòu)買算力」，如今面對(duì) 36 至 52 周的采購(gòu)周期和提前半年以上預(yù)訂的云端產(chǎn)能，這種彈性已經(jīng)不復(fù)存在。

學(xué)術(shù)與獨(dú)立研究者：門檻正在升高

Karpathy 的擔(dān)憂觸及了一個(gè)更深層的問題：當(dāng) H100 成為 AI 研究的事實(shí)標(biāo)準(zhǔn)，而 H100 又只對(duì)巨頭開放，那么「參與 AI」這件事的準(zhǔn)入門檻是否正在被資本決定？

對(duì)于高校實(shí)驗(yàn)室、獨(dú)立研究者和初創(chuàng)團(tuán)隊(duì)而言，這是切切實(shí)實(shí)的現(xiàn)實(shí)困境。

應(yīng)對(duì)策略

面對(duì)結(jié)構(gòu)性的算力緊缺，產(chǎn)業(yè)界正在形成一套應(yīng)對(duì)方法論。

向算力專屬云遷移

AWS、Google Cloud、Azure 等通用云平臺(tái)在算力緊張時(shí)優(yōu)先保障自身 AI 業(yè)務(wù)和頭部企業(yè)客戶，對(duì)中小用戶的按需算力供應(yīng)日趨不穩(wěn)定。

與此同時(shí)，CoreWeave、Lambda、Spheron、Hyperstack 等「新型算力云（Neo-cloud）」正在填補(bǔ)這一空缺。它們專注 GPU 供應(yīng)，沒有內(nèi)部 AI 業(yè)務(wù)與用戶競(jìng)爭(zhēng)產(chǎn)能，在庫(kù)存和可用性上反而有結(jié)構(gòu)性優(yōu)勢(shì)。

充分利用 Spot 實(shí)例

所謂 Spot 實(shí)例，是云平臺(tái)將暫時(shí)閑置、尚未被長(zhǎng)期合同預(yù)訂的 GPU 算力以折扣價(jià)對(duì)外開放的一種臨時(shí)租用方式；代價(jià)是平臺(tái)在需要回收資源時(shí)可以隨時(shí)中斷你的任務(wù)，因此也被稱為「可被搶占的實(shí)例」。

正因?yàn)榇嬖谥袛囡L(fēng)險(xiǎn)，Spot 實(shí)例的價(jià)格遠(yuǎn)低于穩(wěn)定的按需實(shí)例 —— 通常低 40% 至 70%。配合自動(dòng)化檢查點(diǎn)技術(shù)（每 15 至 30 分鐘保存一次模型狀態(tài)），即便任務(wù)被中斷也只損失最近一個(gè)存檔點(diǎn)的進(jìn)度，可以大幅降低訓(xùn)練成本。

據(jù)報(bào)道，一支 12 人團(tuán)隊(duì)曾借助這一方式，將一個(gè) 70B 參數(shù)模型的訓(xùn)練成本控制在約 1.12 萬美元。

https://www.spheron.network/blog/spot-gpu-training-case-study/

模型優(yōu)化以降低硬件需求

當(dāng) GPU 數(shù)量難以繼續(xù)擴(kuò)張時(shí)，減少對(duì) GPU 顯存與帶寬的依賴成為另一條路徑。相比 FP16/BF16，F(xiàn)P8 量化通常可將模型權(quán)重內(nèi)存占用降低約 50%，在推理場(chǎng)景下顯著減少 GPU 需求；更激進(jìn)的 INT4 量化甚至可讓部分 13B 模型運(yùn)行在單塊 24GB 消費(fèi)級(jí) GPU 上。Blackwell 架構(gòu)則開始支持 MXFP4 等 FP4 微縮放格式，而 NVIDIA 自家的 NVFP4 格式還能進(jìn)一步降低內(nèi)存占用與帶寬壓力。

混合專家（MoE）架構(gòu)正是憑借「每 token 只激活少量參數(shù)」的特性贏得了新一輪青睞。通過激活部分參數(shù)，能讓計(jì)算成本大幅降低。

知識(shí)蒸餾則是另一個(gè)選擇：用大模型生成的輸出訓(xùn)練小模型，讓 7B 參數(shù)的學(xué)生模型在特定任務(wù)上達(dá)到大模型 85 至 95% 的表現(xiàn)，同時(shí)將推理時(shí)的 GPU 需求降低 10 至 20 倍。

多云編排與故障轉(zhuǎn)移

單一供應(yīng)商依賴在算力短缺時(shí)代是一種危險(xiǎn)，因此主動(dòng)在兩至三家算力平臺(tái)間分配工作負(fù)載，并設(shè)置自動(dòng)切換機(jī)制，能夠在某家平臺(tái)突發(fā)斷供時(shí)保障業(yè)務(wù)連續(xù)性。

算力短缺并非無解，但需要時(shí)間

供給側(cè)：擴(kuò)張已在路上，但時(shí)間表滯后

SK 海力士與美光正在持續(xù)擴(kuò)充 HBM3e 與 HBM4 產(chǎn)能，新增供給預(yù)計(jì)將在 2026 年逐步爬坡，并于下半年后更明顯緩解供應(yīng)緊張。與此同時(shí)，臺(tái)積電也在持續(xù)擴(kuò)張 CoWoS 先進(jìn)封裝產(chǎn)能，AI GPU 的封裝瓶頸有望逐步松動(dòng)。

不過，NVIDIA 下一代 Rubin 架構(gòu)雖然仍計(jì)劃于 2026 年下半年推出，卻面臨供應(yīng)鏈挑戰(zhàn)。TrendForce 在 2026 年 4 月的報(bào)告中，將 Rubin 在 NVIDIA 高端 GPU 出貨中的占比預(yù)測(cè)從 29% 下調(diào)至 22%，原因包括 HBM4 驗(yàn)證周期延長(zhǎng)、ConnectX-9 網(wǎng)絡(luò)升級(jí)適配、更高功耗，以及更復(fù)雜的液冷系統(tǒng)需求。與此同時(shí)，Rubin 平臺(tái)本身也將消耗大量新增 CoWoS 產(chǎn)能，使先進(jìn)封裝資源短期內(nèi)仍維持緊張。

相比之下，更成熟的 Blackwell 平臺(tái)將在短期內(nèi)繼續(xù)承擔(dān)主力供應(yīng)角色。TrendForce 預(yù)計(jì)，以 GB300/B300 為代表的 Blackwell 系列，將占 NVIDIA 2026 年高端 GPU 出貨量的約 71%。

需求側(cè)：Jevons 悖論正在上演

更令人憂慮的是需求端的邏輯。理論上，模型效率的提升應(yīng)該減少對(duì)算力的需求；現(xiàn)實(shí)中，效率提升只會(huì)讓 AI 工具的應(yīng)用邊界擴(kuò)大，進(jìn)而帶來更高的總算力消耗。

效率提升不會(huì)減少需求，只會(huì)加速需求的擴(kuò)張——這正是工業(yè)史上著名的杰文斯悖論（Jevons Paradox）

從 SemiAnalysis 對(duì) Claude Code 使用量的追蹤來看，AI 編程工具的普及正以驚人速度吸收算力：他們預(yù)測(cè) Claude Code 將在 2026 年底前占到全球日均代碼提交量的 20% 以上。

https://newsletter.semianalysis.com/p/claude-code-is-the-inflection-point

普通消費(fèi)者：買單者的時(shí)間窗口

對(duì)于普通消費(fèi)者和中小型企業(yè)而言，這場(chǎng)算力危機(jī)已經(jīng)通過內(nèi)存漲價(jià)、消費(fèi)級(jí) GPU 減產(chǎn)、電腦手機(jī)配置縮水等方式悄然侵入日常。多家產(chǎn)業(yè)研究機(jī)構(gòu)預(yù)計(jì)，即便供應(yīng)鏈持續(xù)擴(kuò)產(chǎn)，HBM 與先進(jìn)封裝等關(guān)鍵資源在未來幾年內(nèi)仍將維持緊張狀態(tài)；SK 集團(tuán)董事長(zhǎng)崔泰源（Chey Tae-won）也曾警告，AI 基礎(chǔ)設(shè)施的供需失衡可能持續(xù)數(shù)年。

如果說有什么確定性，大概是：未來數(shù)年，先進(jìn)算力資源仍將是 AI 行業(yè)最關(guān)鍵的瓶頸之一；而對(duì)算力、能源與基礎(chǔ)設(shè)施的爭(zhēng)奪，也將持續(xù)決定誰能站在 AI 浪潮的前排。

隨著下一代 Rubin Ultra 等 AI 系統(tǒng)功耗持續(xù)攀升，機(jī)柜級(jí)供電、散熱與液冷系統(tǒng)的重要性和價(jià)值量也在快速上升。相比芯片本身，電源、網(wǎng)絡(luò)、封裝與數(shù)據(jù)中心基礎(chǔ)設(shè)施，正在成為 AI 軍備競(jìng)賽中越來越關(guān)鍵的組成部分。

AI 的軍備競(jìng)賽還遠(yuǎn)未結(jié)束，而芯片只是這場(chǎng)競(jìng)賽中最看得見的戰(zhàn)場(chǎng)。

https://newsletter.semianalysis.com/p/the-great-gpu-shortage-rental-capacity

https://xueqiu.com/9993624771/360569153

https://www.spheron.network/blog/gpu-shortage-2026/

https://www.chyxx.com/industry/1251434.html

https://benchlife.info/nvidia-will-adjust-geforce-rtx-50-suppy-due-gddr7-shortage/

https://www.trendforce.com/news/2025/01/02/news-tsmc-set-to-expand-cowos-capacity-to-record-75000-wafers-in-2025-doubling-2024-output/

https://www.trendforce.com/presscenter/news/20260408-13003.html

https://www.koreatimes.co.kr/amp/business/companies/20260317/sk-chairman-warns-global-memory-shortage-may-last-through-2030