SOCAMM2是甚麼？與DDR5 RDIMM的差別及AI應用

SOCAMM2是面向伺服器的壓接式記憶體模組，把LPDDR5X低功耗DRAM做成可更換、可維護的主機記憶體。 DDR5 RDIMM則是另一套成熟的伺服器記憶體介面與模組體系。兩者的選擇取決於CPU平台、容量、頻寬、功耗及可靠性要求。^{[2] [5]}

對投資者，研究重點是低功耗記憶體在哪些平台取得資格、進入量產及形成收入，同時衡量它對DRAM產品組合、製造成本與售價的影響。SOCAMM2與RDIMM各自承接不同客戶條件，原廠可以同時供應兩類模組。

資料核對截至2026年10月11日。Micron產品及FY2026財務分開列示；AMD平台方向採4月6日原廠說明，預定支援與已部署產品分開。

SOCAMM2、LPDDR5X與DDR5 RDIMM各描述甚麼？

LPDDR5X與DDR5描述DRAM技術及介面；SOCAMM2與RDIMM描述相應模組及連接安排。理解這兩層，才能比較功耗、模組容量及平台相容性。

SOCAMM2的全名是Small Outline Compression Attached Memory Module，透過壓接介面部署LPDDR記憶體。它提供模組化維護，並以較小的安裝空間服務指定伺服器。DDR5 RDIMM全名Registered Dual Inline Memory Module，依DDR5平台及模組要求運作。^[5]

安裝與介面由平台設計決定。比較產品時，先固定CPU、主機板、模組支援及通道配置，再選擇可供該平台使用的料號。

圖：Klaro按DRAM介面、模組與CPU平台分層整理；結構示意，各模組的尺寸及通道由指定產品決定。^{[5] [2]}

AI伺服器為甚麼需要低功耗主機記憶體？

AI資料流同時使用GPU附近的HBM，以及容量較大的主機記憶體。模型權重、資料準備和部分KV Cache可依軟件安排留在主機層，減少較昂貴高頻寬記憶體的容量壓力。

低功耗DRAM可以降低記憶體部分的能量需求，為機櫃功率及散熱預算提供更多選項。實際價值仍由CPU到GPU搬移、可用容量、通道及工作負載共同決定；AI記憶體階層說明多層如何配合。

Micron把SOCAMM2與KV Cache卸載放在同一研究場景。這連接的是主機可用容量與推理資料管理，軟件及互連會影響能否取得實際改善。^[1]

容量、頻寬與功耗應如何公平比較？

比較應固定相同可用容量、通道、CPU／GPU、數據率及工作負載。單一模組容量較高，可以減少部分模組數量，但完整配置還要滿足控制器、通道和RAS要求。

例如Klaro假設需要1,024GB：四個256GB模組或八個128GB模組都可在容量算術上達到目標。這個算例只展示模組數與容量的分母，實際平台配置需另外確認。

Micron列有256GB SOCAMM2產品；其9月30日財報亦披露512GB DDR5 RDIMM已開始送樣，以及8,800 MT/s RDIMM已完成多項客戶資格。容量產品、數據率與採用階段需各自核對。^{[1] [3]}

RAS與平台支援為甚麼會改變選擇？

RAS是Reliability、Availability、Serviceability，即可靠性、可用性與可維護性。資料中心需要處理記憶體錯誤、元件故障及維修，相關能力由DRAM、模組、控制器及軟件共同提供。

截至2026年10月11日核對，AMD在4月6日的平台說明指出，成熟RDIMM已建立較完整的伺服器RAS生態，LPDDR5X SOCAMM2則透過模組、控制器及軟件改善相應能力。AMD規劃在2027年的第六代EPYC Verano平台支援指定SOCAMM2 SKU。這是平台方向；部署研究需再核對正式產品及客戶資格。^[5]

評估替代範圍時，應分開一般用途伺服器與特定AI機櫃。若客戶優先考慮能耗、密度並具有合適的軟件恢復機制，SOCAMM2有更明確的採用場景；若工作負載依賴成熟RAS及廣泛平台配置，RDIMM仍提供相應選擇。

KV Cache推理測試實際比較了甚麼？

TTFT是Time to First Token，即第一個輸出token出現前的時間。它會受到模型、上下文、並發、可用記憶體、快取及軟件安排影響。

Micron的SOCAMM2產品頁列出一個原廠情境：Llama3 70B、FP16、500K上下文及16個並發使用者，按每CPU 1.5TB與2TB LPDRAM容量，推算TTFT分別為0.28秒及0.12秒。兩欄比較的是LPDRAM容量安排，對應主機容量增加與KV Cache卸載。^[1]

Klaro按這組輸入計算，TTFT縮短約57.1%，容量增加約33.3%。這說明容量與資料安排可能改變推理體驗；研究SOCAMM2和RDIMM的介面差異，還需同平台、同容量及同軟件的直接對照。

圖：Micron指定情境的容量及projected TTFT，Klaro按0.28／0.12秒計算縮短幅度。情境與圖上單位一致，產品頁未提供完整的同平台RDIMM對照。^[1]

SOCAMM2已經有量產與收入證據嗎？

截至2026年10月11日，Micron已有產品量產與組合收入披露。6月24日公布的FY2026 Q3結果指出，LP5X SOCAMM2已高量產，容量組合持續擴展；9月30日FY2026 Q4結果又披露，伺服器LPDDR SOCAMM組合收入按季超過翻倍。^{[4] [3]}

前者描述產品狀態，後者描述已報組合收入。各容量產品的收入、毛利及客戶份額仍需更細資料，讀者可以繼續核對平台資格、位元出貨、平均售價及產品組合。

要判斷公司回報，還要看合格製造成本、產能利用、研發、設備投資、庫存及應收。模組需求增加可改善收入組合，持續現金則需要毛利與投入同步配合。

投資者如何把模組問題接到記憶體公司？

先用三大記憶體原廠比較辨認HBM、DRAM及NAND敞口，再進入美光、SK hynix及其他公司的研究，按各頁財報期間評估產品組合和資本要求。

若用DRAM ETF研究產業配置，仍需穿透基金的實際持倉；基金對原廠的權重與單一SOCAMM2產品敞口有不同分母。

供應鏈採用會在CPU平台、模組認證及客戶部署之間傳導。若合格出貨、產品收入與現金持續改善，商業支撐會加強；若支援延遲、成本上升或更高容量RDIMM滿足相同需求，原有增長假設需重新評估。

常見問題

SOCAMM2與HBM分別在哪一層工作？ SOCAMM2服務指定主機記憶體，HBM則靠近GPU／加速器提供高頻寬。兩層可透過平台與軟件配合，位置與搬移成本詳見HBM vs DDR5。

SOCAMM2與LPCAMM2有甚麼差別？ SOCAMM面向資料中心伺服器，LPCAMM面向薄型筆電。應按具體模組、介面及平台支援選研究範圍。^[2]

MRDIMM應放在哪個比較位置？ MRDIMM是提高伺服器記憶體資料率的另一種模組方向。它與RDIMM、SOCAMM2都要按控制器、通道及工作負載比較，可在記憶體階層繼續理解。^[5]