AI 推理股票有哪些？GPU、ASIC、HBM 與資料中心概念股

如果你搜尋「AI 推理股票有哪些」，最直接的答案不是一張把所有 AI 公司放在一起的名單，而是先按收入如何傳導分層：NVIDIA（NVDA）和 AMD（AMD）是通用加速器；Broadcom（AVGO）和 Marvell（MRVL）參與客製 ASIC 與高速互連；台積電（TSM）、SK 海力士、三星電子和美光（MU）提供製造與 HBM；Arista（ANET）、Credo（CRDO）、Coherent（COHR）和 Lumentum（LITE）處理網絡及光互連；Vertiv（VRT）、Eaton（ETN）和部分 AI 雲端公司則承接電力、散熱與部署需求。 Google、Amazon、Microsoft 和 Meta 的自研晶片主要服務自身雲端或產品，不能直接當成獨立晶片收入來估值。

這張表是產業位置地圖，不是推薦清單。AI 推理晶片（AI inference chip）本身，是用來執行已完成訓練的人工智能模型，將使用者輸入轉化為文字、圖片、語音、程式碼或代理行動的處理器。ChatGPT 回答問題、Copilot 生成程式碼、搜尋引擎產生 AI 摘要，背後都在進行推理。

市場常把「AI 晶片」等同 NVIDIA GPU，但推理市場已經分成多條路線：NVIDIA 與 AMD 提供可編程 GPU；Google、Amazon、Microsoft 及 Meta 發展自研或共同開發的 ASIC；Broadcom、Marvell 協助大型客戶把自訂架構變成晶片；Cerebras 則以晶圓級處理器追求極低延遲。它們不是單純比較峰值算力，而是在競爭每個 token 的成本、回應速度、吞吐量、功耗、軟件相容性和部署彈性。

Klaro Research 核心判斷：推理不會由單一晶片架構全面通吃。GPU 會繼續承擔最廣泛、最常變動的模型和工作負載；超大規模雲端平台會把穩定、高用量的模型遷移至自研 ASIC，以降低單位成本；Cerebras 等專用系統則爭取極低延遲或特定模型的高價值工作。真正擴大的市場不是某一種晶片，而是由運算、HBM、網絡、光互連、電力和軟件共同組成的推理基礎設施。

本文資料截至 2026 年 8 月 1 日。各公司公布的 FLOPS、tokens per second 和成本數據使用不同模型、精度、批次、延遲限制及系統配置，不能直接橫向相除；本文以架構與商業模式為主，不把供應商單方面基準測試當成最終勝負。

一分鐘看懂 AI 推理晶片

為甚麼推理成為 AI 基礎設施下一個主戰場

模型訓練通常是一次或周期性的大型計算工程；推理則在產品被使用時持續發生。模型每回答一次問題、代理每多執行一步、影片每多生成一秒，都會消耗推理算力。

這使推理的經濟模型與訓練不同：

• 訓練重視能否在合理時間內完成大型模型；
• 推理同時重視使用者是否願意等待、每次回答成本是否低於收入，以及系統能否承受高峰流量；
• AI agent 會在一次任務內多次呼叫模型、工具和記憶，令 token 使用量可能快於活躍使用者增長；
• 推理成本下降亦可能產生需求反彈：每次使用更便宜，開發者便會加入更多推理步驟和新產品。

NVIDIA 的推理平台資料顯示，硬件以外的量化、核心融合、批次調度和 speculative decoding 亦可大幅改變每 token 成本。換言之，晶片出貨量不是唯一變數；同一批硬件經軟件優化後可以輸出更多 token，亦可能降低新增硬件的邊際需求。

推理其實分成兩段：Prefill 與 Decode

大型語言模型推理可以簡化為兩個階段：

1. Prefill（提示處理）：模型讀取整段輸入和上下文，建立注意力狀態。長文件、程式碼庫和大上下文會增加這部分負載；它較容易平行處理，通常偏向運算密集。
2. Decode（逐 token 生成）：模型逐步產生輸出，每生成一個 token 都要讀取模型權重和先前狀態。這部分通常更受記憶體頻寬、KV cache 和通訊延遲限制。

因此「哪一款晶片最快」沒有脫離工作負載的統一答案。大量離線文件摘要可以容忍較高延遲，追求整體吞吐量；即時語音、程式碼補全和 AI agent 則需要極低首 token 延遲及穩定輸出速度。

AWS 與 Cerebras 已展示把 prefill 與 decode 放到不同硬件的異質推理方向：較通用的加速器處理前段，低延遲專用系統處理生成階段。這類分工若擴大，代表未來競爭單位不再是一顆晶片，而是一個可以調度不同加速器的完整推理平台。

五個真正有用的推理指標

MLCommons 的 MLPerf Inference v6.0加入 GPT-OSS 120B、DeepSeek-R1 互動推理和視覺語言等工作負載，正好說明單一舊模型基準已不足以代表現代推理。比較供應商時，最好使用相同模型、服務情境、準確度要求及延遲上限的公開結果。

圖：推理的競爭單位不是孤立晶片。工作負載先決定延遲、吞吐和記憶體需求，再由運算、HBM、網絡與軟件共同形成每 token 成本，最後才轉化為供應商收入和雲端毛利。

七種主要 AI 推理平台怎樣比較

NVIDIA：優勢不只是 GPU

NVIDIA 的護城河是 GPU、NVLink／NVSwitch、Spectrum-X／InfiniBand、TensorRT-LLM、Dynamo 和大量模型優化共同形成的全棧平台。硬件規格領先很重要，但客戶可以在同一套軟件上迅速支援新模型，才是 NVIDIA 在工作負載快速變化時最難取代的部分。

MLPerf v6.0 顯示 Blackwell 系統在最廣泛的新增測試中都有提交，但這不等於所有客戶、所有模型下都擁有最低成本。NVIDIA 自身公布的成本改善亦有很大部分來自軟件；投資者應把「GPU 銷量」和「每台系統能輸出多少 token」一起理解。

Google、Amazon、Microsoft：自研晶片的目的不是對外賣晶片

超大規模雲端公司的自研晶片首先是一項內部經濟工程：降低推理成本、增加供應來源，並把模型、晶片、網絡和數據中心綁在同一平台。

• Google 把第七代 Ironwood TPU定位為推理時代的專用加速器，並以大容量 HBM 和自有 ICI 網絡擴展至大型 pod；
• AWS 的 Trainium3 UltraServer同時服務訓練與推理，透過 Neuron 軟件與 EC2、SageMaker 和 Bedrock 整合；
• Microsoft 的 Maia 200專門針對推理，使用 HBM3e、片上 SRAM 和基於 Ethernet 的擴展網絡，並用於 OpenAI 模型和 Microsoft 內部工作負載。

這些公司通常會公布「相對上一代」或「相對現有平台」的性能成本改善，但不同公司測試條件不一致。更可靠的商業證據是：自研晶片是否擴展至更多地區和客戶、是否令雲端 AI 收入快於折舊與營運成本，以及外購 GPU 比例是否真的下降。

Broadcom：把客戶架構變成可量產 XPU

Broadcom 的角色不是像 NVIDIA 一樣向整個市場銷售同一款加速器，而是和少數超大型客戶共同定義 ASIC，再提供先進製程實現、SerDes、HBM 介面、交換器和網絡連接。

公司在 2026 財年第一季披露 AI 收入為 84 億美元、按年增長 106%，由客製 AI 加速器與網絡需求推動；這是 ASIC 已由概念變成大規模收入的直接證據。Broadcom 官方業績資料

OpenAI 與 Broadcom 亦在 2026 年公布首款共同開發的 LLM 推理處理器 Jalapeño，計劃由 2026 年底開始部署。OpenAI 的官方說明同時指出，合作涵蓋晶片架構、核心、記憶體、網絡、調度和部署系統。這說明客製 ASIC 的價值已從「一顆較便宜的晶片」上升至完整的垂直整合平台。

不過，Broadcom 的 AI 增長仍高度依賴少數客戶和多年度項目。單一客戶延遲量產、改變模型架構或把下一代轉交其他設計夥伴，都可能令收入節奏波動。

Cerebras：不是 GPU 替代品，而是低延遲專用層

Cerebras 把接近整片晶圓做成一個處理器，以大量片上 SRAM 和互連降低資料搬運。OpenAI 在 2026 年宣布加入 750MW Cerebras 超低延遲算力，並將其作為推理組合中的專用低延遲方案，而不是取代全部 GPU。OpenAI 合作公告

這個定位非常重要：只要即時編程、語音和 AI agent 願意為低延遲支付溢價，Cerebras 不需要取得整個推理市場，也可以建立可觀業務；但其估值和商業質素仍要由容量上線、利用率、服務毛利與現金流驗證。完整公司研究見《Cerebras（CBRS）是甚麼公司》。

GPU 會被 ASIC 取代嗎

較可能的結果是市場分層，而不是單向取代。

GPU 最適合：

• 新模型、新算子和需求仍快速變化；
• 客戶需要同一硬件支援訓練、微調、推理和其他加速計算；
• 模型規模未大到足以攤薄客製晶片開發成本；
• 軟件相容與快速部署比理論單位成本更重要。

客製 ASIC 最適合：

• 工作負載穩定而且規模極大；
• 客戶擁有自己的模型、編譯器、數據中心和工程團隊；
• 每瓦、每機架及每 token 的微小改善都能轉化為巨額成本節省；
• 客戶願意承擔兩至數年的設計和量產周期。

專用架構最適合：

• 即時互動需要非常低的輸出延遲；
• 模型和資料流能配合特定硬件；
• 速度改善可以轉化為更高使用量或高價服務。

因此，ASIC 市占增加不必然等於 NVIDIA 收入下降。推理總需求若增長得更快，GPU、ASIC 和專用系統可以同時擴張；真正需要觀察的是各平台在新增 token 中取得多少份額，以及價格下降是否快於使用量上升。

AI 推理股票如何沿產業鏈傳導到美股與全球半導體

第一層：運算平台

• NVIDIA（NVDA）：GPU、機架級系統、網絡與推理軟件；
• AMD（AMD）：Instinct GPU 與 ROCm 軟件，作為通用 GPU 第二來源；
• Broadcom（AVGO）、Marvell（MRVL）：客製 AI 晶片、SerDes、交換與連接技術；
• Cerebras（CBRS）：晶圓級低延遲推理平台。

這些公司同屬 AI 運算，但業務純度、客戶結構和毛利模式完全不同，不能只用「AI 晶片股」放在同一估值框架。

第二層：晶圓代工、HBM 與先進封裝

推理模型變大、上下文變長，令 HBM 容量與頻寬的重要性上升。台積電負責多數先進 AI 加速器製造與封裝；SK 海力士、三星電子和美光供應 HBM。自研 ASIC 增長可能分散加速器品牌份額，卻未必減少先進製程和 HBM 總需求。

這也是為甚麼判斷記憶體公司時，不能只問 NVIDIA 出貨，而要追蹤所有 GPU、TPU、Trainium、Maia 和客製 XPU 的 HBM 含量。延伸閱讀：HBM 概念股與產業鏈。

第三層：網絡與光互連

模型跨越愈多加速器，網絡便愈接近系統瓶頸。Broadcom、Marvell、Arista、Credo、Coherent、Lumentum 和 Fabrinet 分別參與交換器、SerDes、主動電纜、DSP、光模組、光器件及製造。

推理負載未必像大型訓練一樣每一步都需要全體同步，但 AI agent、MoE 和長上下文仍會增加跨節點通訊與資料移動。Ethernet 由 800G 向 1.6T 升級，LPO 與 CPO 的導入都與這個瓶頸相關。完整技術和公司分工見《光模組概念股》。

第四層：電力、冷卻與數據中心

推理需求是持續營運負載，不是只在訓練期間出現。即使每 token 能效改善，只要總 token 使用量增長更快，數據中心電力、散熱和機架密度仍會增加。Vertiv、Eaton、數據中心營運商和電力基建因此屬於第二層受惠者，但其回報取決於訂單、產能、價格和資本成本，不是 AI 使用量的固定倍數。Nebius（NBIS）公司研究展示 GPU 雲端如何把電力、叢集和利用率轉成收入；Bloom Energy（BE）公司研究則拆解現場電力如何縮短資料中心接電時間。延伸閱讀：AI 資本開支如何轉化為收入與利潤。

投資者應追蹤的六個領先指標

1. 推理使用量：API token、AI agent 任務和企業生產工作負載是否持續增長；
2. 價格下降與需求彈性：每 token 售價下降後，總使用量能否以更快速度上升；
3. 硬件利用率：已部署加速器是否保持高負載，還是容量先於需求；
4. 雲端毛利與折舊：AI 收入增長能否超過設備折舊、電力與租約成本；
5. 自研晶片部署範圍：由內部模型擴展至第三方客戶，還是只停留在公告；
6. 供應鏈收入純度：公司是否披露 AI 相關收入、客戶、產品代際和毛利，而不只是被歸入概念股。

這六項比單看晶片峰值 FLOPS 更接近股東回報。技術勝出但資本投入過高、售價下降過快或利用率不足，未必能產生理想自由現金流；相反，份額較小的平台若專注高價值工作負載，仍可能建立良好業務。

Klaro Research 結論

AI 推理晶片競爭的核心，已由「誰能提供最大訓練算力」轉向「誰能以最低總成本，在指定延遲內持續產生有用 token」。這是一場系統競爭：晶片只是起點，HBM、封裝、網絡、軟件、電力和利用率共同決定結果。

NVIDIA 仍擁有最完整的通用平台和軟件生態；Google、Amazon、Microsoft、Meta 和 OpenAI 發展客製晶片，是為了掌握成本與供應，而不是證明 GPU 已失去價值；Broadcom 和 Marvell受惠於客戶把更多架構自研；Cerebras 則驗證極低延遲推理可以成為獨立市場。

對投資者而言，最重要的結論不是選出唯一贏家，而是分清三個層次：

• 晶片份額：哪種架構取得新增工作負載；
• 系統價值：HBM、網絡和軟件如何影響真正性能；
• 財務轉化：推理需求能否變成收入、毛利和自由現金流。

只有三層同時成立，技術趨勢才會成為可持續的投資基本面。

常見問題

AI 推理晶片與訓練晶片有甚麼分別？

訓練晶片用大量數據建立或更新模型參數，通常重視大規模平行運算和集群擴展；推理晶片執行已訓練模型，除了吞吐量，也重視回應延遲、每 token 成本、記憶體頻寬和功耗。現代 GPU 和部分 ASIC 可以同時處理訓練與推理，只是優化重點不同。

GPU 與 ASIC 有甚麼分別？

GPU 可編程、用途廣、軟件成熟，適合快速變化的模型和多種工作負載；ASIC 為特定計算模式設計，可以降低功耗和單位成本，但開發周期長、彈性較低。規模不足的企業通常難以自行承擔客製 ASIC 成本。

TPU、Trainium 和 Maia 可以買到嗎？

它們主要透過各自雲端平台提供，而不是像一般處理器一樣零售。Google TPU 在 Google Cloud 使用；Trainium／Inferentia 在 AWS 使用；Maia 主要部署於 Microsoft Azure 和內部服務。客戶購買的是雲端運算服務，不一定擁有晶片本身。

AI 推理股票／概念股有哪些？

直接運算平台包括 NVIDIA、AMD、Broadcom、Marvell 和 Cerebras；間接受影響的產業鏈包括台積電、SK 海力士、三星電子、美光，以及 Arista、Credo、Coherent、Lumentum、Fabrinet、Vertiv 和 Eaton 等網絡、光互連、電力與冷卻公司。被列入同一主題不代表收入純度、風險或估值相同，應回到公司財報核對實際業務。

Cerebras 會取代 NVIDIA 嗎？

現有證據較支持互補，而不是全面取代。OpenAI 把 Cerebras 定位為超低延遲推理層，同時仍使用 GPU 處理廣泛工作負載。Cerebras 的機會是取得對延遲敏感的高價值市場，而不是在短期內替代整個 CUDA 與 GPU 生態。

官方資料與方法邊界

• MLCommons：MLPerf Inference v6.0（2026 年 4 月）
• NVIDIA：Data Center Deep Learning Performance（資料於 2026 年 8 月 1 日復核）
• Google：Ironwood TPU及 Cloud TPU 推理文件
• AWS：Trainium3 UltraServers及 Trainium 研究工具
• Microsoft：Maia 200
• Broadcom：2026 財年第一季業績及 AI 基礎設施
• OpenAI：Cerebras 合作及 OpenAI／Broadcom 推理晶片

供應商的性能和成本聲稱會隨軟件版本、模型和硬件配置改變。本文只在相同測試條件下比較數字，其他資料用於說明產品定位，並明確區分公司披露、第三方基準與 Klaro Research 推論。

---

本文只用於理解 AI 推理產業結構與公司商業模式，不構成任何證券的買賣建議。