AI 基礎設施瓶頸是甚麼？電力、散熱、網絡與 HBM 如何限制算力
目錄
AI 基礎設施的真正產能，由電力、散熱、運算晶片、HBM、先進封裝、網絡、儲存與軟件中最慢的一層決定。 GPU 已交付但資料中心未接電，不能產生算力；機架有電但無法散熱，不能以設計功率運行；加速器和 HBM 齊備但網絡堵塞，整個叢集完成工作時間仍會變長。
因此，「AI 算力短缺」不是單一產品短缺，而是一系列相互依賴的交付約束。本文不再列一遍所有概念股，而是建立判斷哪一層正在限制收入、瓶頸何時轉移，以及哪些指標能證明改善的框架。
一分鐘看懂五大瓶頸
| 瓶頸 | 典型問題 | 直接後果 | 驗證指標 |
|---|---|---|---|
| 電力 | 接電排隊、變壓器／開關設備長交期、發電不足 | 機房完成但不能上線 | 可用 MW、接電日期、設備交期 |
| 散熱 | 機架密度超出氣冷能力、CDU／冷板不足 | 降頻、降低部署密度 | kW／rack、供回水溫度、液冷覆蓋 |
| HBM／封裝 | 良率、CoWoS、基板或客戶驗證不足 | GPU／ASIC 無法完整交付 | 合格出貨、封裝產能、驗證狀態 |
| 網絡 | 頻寬、延遲、丟包、光互連不足 | 加速器等待、job completion time 上升 | 端口速率、利用率、故障率 |
| 軟件與營運 | 調度、模型優化、客戶需求或利用率不足 | 有硬件但收入和回報偏低 | token／美元、利用率、雲端收入 |
Klaro Research 判斷： 投資機會往往出現在瓶頸由一層轉移到下一層的時候。HBM 緩解後，限制可能移到 CoWoS；機架建成後，可能移到接電；GPU 供應增加後，網絡、散熱和實際推理需求會變得更重要。只追蹤 GPU 出貨會錯過整個系統的約束。
為甚麼「最弱一環」決定可售算力
一座 AI 資料中心要產生收入，至少需要：土地與建築完成、電力可用、冷卻系統就緒、伺服器與網絡交付、軟件安裝、客戶工作負載上線。任何一步延後，前面已投入的資本都可能暫時無法變現。
這與製造業產線相似。單一設備速度再快，整條產線的產量仍由最慢工序決定。AI 基建的差別是每一層都有不同供應商、建設周期和會計確認方式，因此市場很容易把某一層的強勁訂單誤當成整套系統已投入服務。
第一層：電力和接電
IEA 的 Energy and AI 報告預計，全球資料中心用電在基準情境下到 2030 年增至約 945 TWh，較 2024 年大約翻倍。IEA 同時指出伺服器平均佔現代資料中心約 60% 用電，其餘還包括網絡、儲存、冷卻及其他基建。
總發電量不是唯一問題。資料中心需要在特定地點、特定時間取得穩定電力，還要有變壓器、開關設備、輸電、配電和備援。許可和電網工程的周期可能長於 GPU 產品周期。
應追蹤：
- 已簽電力與真正可用電力的差距；
- 變壓器、開關設備和發電設備交期；
- 資料中心可用 MW／GW 和上線日期；
- 長期購電合約、現場發電與燃料成本；
- 電力是否限制新客戶部署。
公司與產業位置可參閱AI 電力概念股。
第二層：散熱和機架密度
高階 AI 系統把更多功率集中在單一機架，熱通量亦同步增加。當氣冷的經濟或物理效率不足，直接液冷、冷板、CDU、歧管、冷水機組和熱回收便成為系統的一部分。
Vertiv 的 2026 液冷模組資料顯示方案支援每機架 50kW 至超過 100kW。這些規格說明為何液冷內容量上升，但不代表所有既有機房都會立即改造。
散熱瓶頸不只影響設備數量，也影響 GPU 是否降頻、機架能放多密、機房面積和總電力利用率。完整公司矩陣見AI 液冷散熱概念股。
第三層：HBM、先進封裝與合格出貨
加速器需要 HBM 提供足夠頻寬，再透過 CoWoS 等先進封裝整合。名義晶圓產能、HBM 堆疊、base die、基板、封裝和測試任何一層良率不足，都會降低完整產品的可交付數量。
投資者要分清：
- 宣布產能與設備已安裝；
- 工程樣品與客戶送樣；
- 通過驗證；
- 合格量產出貨；
- 在財報確認收入。
第四層：網絡和光互連
AI 訓練與分散式推理需要大量加速器共同工作。網絡延遲、丟包或帶寬不足，會讓加速器等待同步，降低昂貴資產的利用率。
Broadcom、NVIDIA 與 Arista 的新一代平台都把 102.4 Tbps 交換、scale-up／scale-out 和 1.6T 光連接作為重點，反映網絡正從獨立配件變成 AI 系統背板。可是規格發布、客戶部署和收入仍然是三種不同證據。
應追蹤每顆加速器的網絡內容量、800G／1.6T 端口、銅轉光距離、交換器利用率、故障率和 job completion time。完整框架見AI 網絡概念股與產業鏈。
第五層：軟件、需求與利用率
硬件全部上線，不代表經濟回報自然成立。模型壓縮、量化、推測解碼、批次處理和快取可以降低每個 token 的成本；客戶需求、定價和利用率則決定資料中心能否收回資本。
Alphabet 在 2025 年第四季電話會議表示，2025 年 Gemini serving unit cost 下降 78%，同時雲端需求仍處於供應緊張。這說明效率改善和總需求增長可以同時發生：單位成本下降不必然令總算力需求下降，但也不能假設需求永遠跑贏供應。
應追蹤：
- 加速器和機房實際利用率；
- token／美元、token／瓦及工作完成時間；
- AI 雲端收入與積壓訂單；
- 推理相對訓練的需求結構；
- 折舊、能源和融資成本；
- 客戶是否把試驗轉為持續付費工作負載。
瓶頸如何轉移
| 階段 | 市場最容易看到的訊號 | 下一個可能瓶頸 |
|---|---|---|
| GPU 短缺 | 交期長、溢價、雲端容量不足 | HBM／封裝 |
| HBM 擴產 | 原廠提高投片與堆疊能力 | CoWoS／基板／驗證 |
| 完整系統交付 | 伺服器和網絡出貨上升 | 接電／液冷／機房 |
| 資料中心上線 | 可用 MW 和 GPU 數增加 | 網絡效率／軟件調度 |
| 容量充足 | 單位推理成本下降 | 真實需求、定價與利用率 |
研究時不應只問「哪一層短缺」，還要問「短缺解除後，需求是否仍足以支持原有價格和毛利」。瓶頸供應商在短缺期有議價能力，擴產完成後也可能面對價格正常化。
供應鏈公司怎樣分類
| 層級 | 代表公司 | 研究重點 |
|---|---|---|
| 運算 | NVIDIA、AMD、客製 ASIC 供應鏈 | 出貨、軟件、生態、客戶集中 |
| HBM／封裝 | SK 海力士、美光、三星、台積電 | 良率、代際、封裝產能、價格 |
| 網絡 | Broadcom、NVIDIA、Arista、Marvell、Credo | AI 收入、端口代際、部署和毛利 |
| 電力 | Eaton、GE Vernova、Bloom Energy 等 | 訂單、積壓、交期、燃料與監管 |
| 散熱 | Vertiv、Modine、nVent 等 | 機架密度、液冷比例、收入確認 |
| AI Cloud／機房 | Microsoft、Alphabet、Amazon、Meta、CoreWeave、Nebius | CapEx、可用容量、利用率、融資 |
公司可能跨越多層，但收入透明度不同。投資者要避免把「有 AI 產品」等同「AI 已是重大收入」。
每季監測表
- 雲端公司 CapEx、融資租賃和現金購置口徑；
- GPU、ASIC、HBM、CoWoS 的合格出貨；
- 資料中心新增可用電力和實際上線容量；
- 交換器、800G／1.6T、AEC 和光模組部署；
- 液冷訂單、機架密度和交付；
- AI 雲端收入、積壓訂單與利用率；
- 折舊、利息、能源和自由現金流；
- 哪一層交期開始縮短、價格開始下跌。
以上監測表把「產業很熱」轉成可反證的研究。若供應擴張但利用率、收入和現金流沒有跟上，便要降低對需求的假設。
主要風險
- 把單一供應商的訂單重複計入整條產業鏈；
- 名義容量已簽約，但電力或機房未能按時上線；
- 供應改善後價格和毛利正常化；
- 模型效率提升快於需求增長；
- 雲端公司轉向自研晶片，改變既有供應商份額；
- 高利率、融資或監管延後資料中心項目；
- 市場估值已反映無限延長的短缺。
常見問題
AI 基礎設施最大瓶頸是甚麼？
沒有永久固定答案。2026 年需要同時觀察電力接入、HBM／封裝、液冷和網絡；不同地區、客戶和部署階段的最弱一環不同。
GPU 增加是否一定令算力增加？
不一定。沒有足夠 HBM、網絡、電力、散熱和軟件調度，GPU 可能無法部署或利用率偏低。
瓶頸公司是否一定是好投資？
不是。瓶頸可能已反映在高估值，擴產後亦可能出現價格下跌。需要把訂單、收入、盈利、現金流和估值一起判斷。
資料截至甚麼時候？
本文資料截至 2026 年 8 月 1 日，IEA 預測和公司產品狀態會按最新官方資料更新。
延伸閱讀
本文僅供參考，不構成投資建議。