HBM vs GDDR：帶寬、封裝、成本與 AI GPU 用途有什麼區別

HBM（High Bandwidth Memory）與 GDDR（Graphics Double Data Rate）都是為處理器提供高速數據的 DRAM，但實現方式不同：HBM 把多層 DRAM 垂直堆疊，通過超寬接口和先進封裝放在 GPU／AI 加速器旁邊；GDDR 則把多顆高速記憶體芯片焊在電路板上，以較窄接口和很高的單針傳輸速率取得帶寬。

HBM 通常提供更高總帶寬和更好的每比特能效，代價是封裝複雜、成本高且產能受先進封裝約束；GDDR 成本和系統設計相對靈活，廣泛用於顯卡，也能服務部分 AI 推理和加速計算。兩者不是“HBM 新、GDDR 舊”的簡單替代關係。

HBM 與 GDDR 核心差異

Samsung HBM 官方頁説明，HBM 使用 TSV 堆疊和寬接口服務 AI 訓練與 HPC；Samsung GDDR 官方頁則將 GDDR 定義為高單針速率的圖形 DRAM，並明確其用途已擴展至 AI 與高性能計算。

帶寬不能只看單針速率

記憶體總帶寬大致取決於 每針傳輸速率 × 接口寬度。GDDR 的優勢是每個引腳傳得很快，例如 GDDR7 使用 PAM3 信號提高單針數據率；HBM 則使用成百上千條並行連接，即使單針速率較低，總帶寬仍然很高。

這像兩種工程策略，但不需要用比喻替代數據：

• GDDR7 可達到很高的單針速率，系統通常使用 256-bit、384-bit 或其他板級總線；
• HBM 每個堆疊擁有極寬接口，新一代 HBM4 繼續擴大 I/O 數量；
• 最終產品帶寬還取決於堆疊或芯片數量、記憶體控制器和具體配置。

因此，不能拿“某顆 GDDR 芯片的 Gbps”直接與“整張 HBM 加速卡的 TB/s”相比；前者是單針速率，後者是系統總帶寬。

為什麼 HBM 更適合大型 AI 訓練

大型模型訓練需要多顆加速器持續讀取權重、激活值和中間結果。計算單元若等待數據，增加理論算力也無法充分利用。HBM 的寬接口、緊鄰處理器和較高帶寬／瓦特，能降低記憶體系統成為瓶頸的概率。

HBM 還適合把多個堆疊放在同一先進封裝內，與高帶寬芯片間互連共同組成大型加速器模塊。但系統能力仍取決於：

• 每顆 GPU 的 HBM 容量和帶寬；
• GPU 之間的 NVLink、Infinity Fabric 或網絡互連；
• 模型並行、批次和軟件優化；
• 散熱、供電與機架級配置。

HBM 很重要，但不能獨立決定 AI 系統性能。

GDDR 為什麼仍用於 AI

GDDR 的成本、供應鏈和電路板集成更成熟，適合對總帶寬要求較低、但對成本和容量有約束的系統。Samsung 對 GDDR7 的官方説明明確列出 AI 推理和加速計算用途，並指出 GDDR7 相對 HBM具有成本優勢。

部分推理工作負載、邊緣 AI、專業工作站或小規模模型並不一定需要 HBM 的最高帶寬。採用 GDDR 可能讓系統：

• 使用較簡單的封裝；
• 避開部分 HBM 與中介層產能限制；
• 以較低硬件成本提供較大規模部署；
• 沿用成熟顯卡和軟件生態。

但 GDDR 芯片分佈在 PCB 上，板級線路、功耗和總線寬度會限制繼續擴展。它適合哪些 AI 工作負載，需要按模型和系統實測，而不是由“訓練用 HBM、推理用 GDDR”一句話永久劃分。

封裝、良率和供應鏈差異

HBM 需要製造多層 DRAM 裸片、TSV、堆疊、基底邏輯裸片，並與 GPU 通過中介層或其他先進封裝整合。任何一個環節的良率和產能都會影響最終出貨。HBM 的供應不只是“多生產 DRAM”，還依賴封裝設備、測試、基板和代工平台。

GDDR 則以獨立封裝芯片焊在 PCB 上。單顆損壞或板級設計問題仍會造成整卡報廢，但製造鏈條不需要把多個高價值裸片共同封在大型封裝中。其挑戰更多集中在高速信號完整性、功耗、散熱和電路板空間。

這也是 HBM 需求增長會同時影響記憶體原廠和先進封裝產業鏈的原因。

容量、延遲和可擴展性怎麼理解

“HBM 一定容量小”“GDDR 一定延遲低”都過度簡化。產品容量會隨世代、堆疊高度、芯片密度和系統配置變化；實際延遲還包含控制器、訪問模式和軟件因素。

更有用的判斷順序是：

1. 模型能否完整放進加速器記憶體；
2. 目標批次和精度需要多少帶寬；
3. 是否需要多卡通信，互連會否成為新瓶頸；
4. 每次任務的功耗、設備成本和利用率；
5. 系統是否能在所需數量和時間內交付。

只比較顯存容量或峰值帶寬，可能忽略決定總擁有成本的其他環節。

對記憶體產業意味着什麼

HBM 與 GDDR 都由 DRAM 原廠生產，但價值量、製造複雜度和客户認證不同。HBM 增長可能佔用更多先進 DRAM 產能與封裝資源；GDDR 則繼續服務大規模圖形和部分 AI 市場。三星、SK 海力士、美光會按客户訂單、產品良率和利潤組合分配產能。

投資者應關注：

• 各原廠 HBM 與 GDDR 的量產世代和客户認證；
• HBM 堆疊、基底裸片與先進封裝良率；
• GDDR 新信號標準是否轉化為產品出貨；
• AI 訓練、推理、遊戲和工作站需求組合；
• 高價值產品增加是否擠壓傳統 DRAM 供給。

這些事實比把所有“AI 記憶體”視為同一產品更能解釋公司收入和資本開支。

常見問題

HBM 和 GDDR 都是顯存嗎？ 兩者都可以作為 GPU 或加速器的本地記憶體。GDDR 傳統上稱為圖形記憶體，HBM 則以堆疊和先進封裝服務高帶寬計算；“顯存”是用途稱呼，不代表兩者結構相同。

HBM 一定比 GDDR 快嗎？ 若比較高端系統總帶寬，HBM 通常更高；但單針速率可能是 GDDR 更高。必須統一比較層級、產品配置和工作負載，不能把單針 Gbps 與系統 TB/s 直接相比。

為什麼遊戲顯卡多數不用 HBM？ 主流遊戲顯卡需要在性能、容量、售價、板卡設計和供應之間平衡。GDDR 已能提供足夠高的圖形帶寬，封裝和成本較適合大規模消費市場；部分專業或歷史產品也曾使用 HBM。

GDDR7 可以用於 AI 推理嗎？ 可以。GDDR7 官方應用已包含 AI 推理和加速計算。是否合適取決於模型容量、帶寬需求、延遲、功耗和成本，不代表它能替代所有 HBM 訓練系統。

HBM、GDDR 和 DDR5 是同一種 DRAM 嗎？ 底層都屬於 DRAM 技術家族，但接口、封裝、用途和系統位置不同。DDR5 主要作為 CPU 系統內存；詳細比較見 HBM vs DDR5。

官方資料來源

• Samsung Semiconductor：HBM 產品與結構
• Samsung Semiconductor：GDDR 產品與用途
• Samsung Semiconductor：GDDR7 技術説明
• Samsung：GDDR7 開發公告與帶寬口徑

如果要從技術差異繼續追蹤相關公司，可閲讀 HBM 產業鏈與記憶體三雄比較。