SOCAMM2是什么?与DDR5 RDIMM的区别及AI应用

作者 Klaro 编辑部 ·发布于 2026年10月11日

LPDDR5X SOCAMM2与DDR5 RDIMM的模块、连接及平台分层示意
Klaro结构示意;产品接口及测试条件按指定原厂资料核对,截至2026年10月11日。
目录

SOCAMM2是面向服务器的压接式内存模块,把LPDDR5X低功耗DRAM做成可更换、可维护的主机内存。 DDR5 RDIMM则是另一套成熟的服务器内存接口与模块体系。两者的选择取决于CPU平台、容量、带宽、功耗及可靠性要求。[2] [5]

对投资者,研究重点是低功耗内存在哪些平台取得资格、进入量产及形成收入,同时衡量它对DRAM产品组合、制造成本与售价的影响。SOCAMM2与RDIMM各自承接不同客户条件,原厂可以同时供应两类模块。

资料核对截至2026年10月11日。Micron产品及FY2026财务分开列示;AMD平台方向采4月6日原厂说明,预定支持与已部署产品分开。

SOCAMM2、LPDDR5X与DDR5 RDIMM各描述什么?

LPDDR5X与DDR5描述DRAM技术及接口;SOCAMM2与RDIMM描述相应模块及连接安排。理解这两层,才能比较功耗、模块容量及平台相容性。

SOCAMM2的全名是Small Outline Compression Attached Memory Module,通过压接接口部署LPDDR内存。它提供模块化维护,并以较小的安装空间服务指定服务器。DDR5 RDIMM全名Registered Dual Inline Memory Module,依DDR5平台及模块要求运作。[5]

比较层 SOCAMM2 DDR5 RDIMM
内存技术 指定LPDDR5X 指定DDR5
连接与安装 压接式、水平安装的模块安排 DIMM插槽及相应模块安排
主要研究条件 每位元能耗、密度、平台与可维护性 容量、通道、服务器生态及可靠性
相容性 指定控制器、主机板及平台SKU 指定DDR5控制器及服务器配置

安装与接口由平台设计决定。比较产品时,先固定CPU、主机板、模块支持及通道配置,再选择可供该平台使用的料号。

SOCAMM2、DRAM接口与平台的分层比较

SOCAMM2、DRAM接口与平台的分层比较

SOCAMM2、DRAM接口与平台的分层比较

SOCAMM2、DRAM接口与平台的分层比较

图:Klaro按DRAM接口、模块与CPU平台分层整理;结构示意,各模块的尺寸及通道由指定产品决定。[5] [2]

AI服务器为什么需要低功耗主机内存?

AI数据流同时使用GPU附近的HBM,以及容量较大的主机内存。模型权重、资料准备和部分KV Cache可依软件安排留在主机层,减少较昂贵高带宽内存的容量压力。

低功耗DRAM可以降低内存部分的能量需求,为机柜功率及散热预算提供更多选项。实际价值仍由CPU到GPU搬移、可用容量、通道及工作负载共同决定;AI内存阶层说明多层如何配合。

Micron把SOCAMM2与KV Cache卸载放在同一研究场景。这连接的是主机可用容量与推理资料管理,软件及互连会影响能否取得实际改善。[1]

容量、带宽与功耗应如何公平比较?

比较应固定相同可用容量、通道、CPU/GPU、数据率及工作负载。单一模块容量较高,可以减少部分模块数量,但完整配置还要满足控制器、通道和RAS要求。

例如Klaro假设需要1,024GB:四个256GB模块或八个128GB模块都可在容量算术上达到目标。这个算例只展示模块数与容量的分母,实际平台配置需另外确认。

评估维度 同口径应固定什么 为什么影响投资判断
容量 工作集、每CPU可用容量及冗余 决定可服务的模型与资料量
带宽 通道数、汇流排位元宽度及实际数据率 MT/s或Gb/s要结合完整路径
功耗 活动/待机、同容量、负载与测量位置 决定内存及系统能耗的分别
成本 合格模块、CPU平台、冷却及维护 决定客户总持有成本
可靠性 错误更正、故障处理及软件恢复 决定客户资格与可服务市场

Micron列有256GB SOCAMM2产品;其9月30日财报亦披露512GB DDR5 RDIMM已开始送样,以及8,800 MT/s RDIMM已完成多项客户资格。容量产品、数据率与采用阶段需各自核对。[1] [3]

RAS与平台支持为什么会改变选择?

RAS是Reliability、Availability、Serviceability,即可靠性、可用性与可维护性。数据中心需要处理内存错误、元件故障及维修,相关能力由DRAM、模块、控制器及软件共同提供。

截至2026年10月11日核对,AMD在4月6日的平台说明指出,成熟RDIMM已建立较完整的服务器RAS生态,LPDDR5X SOCAMM2则通过模块、控制器及软件改善相应能力。AMD规划在2027年的第六代EPYC Verano平台支持指定SOCAMM2 SKU。这是平台方向;部署研究需再核对正式产品及客户资格。[5]

评估替代范围时,应分开一般用途服务器与特定AI机柜。若客户优先考虑能耗、密度并具有合适的软件恢复机制,SOCAMM2有更明确的采用场景;若工作负载依赖成熟RAS及广泛平台配置,RDIMM仍提供相应选择。

KV Cache推理测试实际比较了什么?

TTFT是Time to First Token,即第一个输出token出现前的时间。它会受到模型、上下文、并发、可用内存、快取及软件安排影响。

Micron的SOCAMM2产品页列出一个原厂情境:Llama3 70B、FP16、500K上下文及16个并发使用者,按每CPU 1.5TB与2TB LPDRAM容量,推算TTFT分别为0.28秒及0.12秒。两栏比较的是LPDRAM容量安排,对应主机容量增加与KV Cache卸载。[1]

Micron指定推理情境 较低容量 较高容量
每CPU LPDRAM 1.5TB 2TB
原厂推算TTFT 0.28秒 0.12秒

Klaro按这组输入计算,TTFT缩短约57.1%,容量增加约33.3%。这说明容量与资料安排可能改变推理体验;研究SOCAMM2和RDIMM的接口差异,还需同平台、同容量及同软件的直接对照。

Micron指定LPDRAM容量与推理TTFT情境比较

Micron指定LPDRAM容量与推理TTFT情境比较

Micron指定LPDRAM容量与推理TTFT情境比较

Micron指定LPDRAM容量与推理TTFT情境比较

图:Micron指定情境的容量及projected TTFT,Klaro按0.28/0.12秒计算缩短幅度。情境与图上单位一致,产品页未提供完整的同平台RDIMM对照。[1]

SOCAMM2已经有量产与收入证据吗?

截至2026年10月11日,Micron已有产品量产与组合收入披露。6月24日公布的FY2026 Q3结果指出,LP5X SOCAMM2已高量产,容量组合持续扩展;9月30日FY2026 Q4结果又披露,服务器LPDDR SOCAMM组合收入按季超过翻倍。[4] [3]

前者描述产品状态,后者描述已报组合收入。各容量产品的收入、毛利及客户份额仍需更细资料,读者可以继续核对平台资格、位元出货、平均售价及产品组合。

要判断公司回报,还要看合格制造成本、产能利用、研发、设备投资、库存及应收。模块需求增加可改善收入组合,持续现金则需要毛利与投入同步配合。

投资者如何把模块问题接到内存公司?

先用三大内存原厂比较辨认HBM、DRAM及NAND敞口,再进入美光、SK hynix及其他公司的研究,按各页财报期间评估产品组合和资本要求。

若用DRAM ETF研究产业配置,仍需穿透基金的实际持仓;基金对原厂的权重与单一SOCAMM2产品敞口有不同分母。

供应链采用会在CPU平台、模块认证及客户部署之间传导。若合格出货、产品收入与现金持续改善,商业支撑会加强;若支持延迟、成本上升或更高容量RDIMM满足相同需求,原有增长假设需重新评估。

常见问题

SOCAMM2与HBM分别在哪一层工作? SOCAMM2服务指定主机内存,HBM则靠近GPU/加速器提供高带宽。两层可通过平台与软件配合,位置与搬移成本详见HBM vs DDR5。

SOCAMM2与LPCAMM2有什么差别? SOCAMM面向数据中心服务器,LPCAMM面向薄型笔电。应按具体模块、接口及平台支持选研究范围。[2]

MRDIMM应放在哪个比较位置? MRDIMM是提高服务器内存资料率的另一种模块方向。它与RDIMM、SOCAMM2都要按控制器、通道及工作负载比较,可在内存阶层继续理解。[5]

Klaro Research

资料来源与更新依据

资料截止:2026年10月11日

  1. [1] Micron SOCAMM2产品、容量与TTFT测试口径

    第一方 · 行业资料 · 截至2026-10-11产品页 · 查阅:2026年10月11日

  2. [2] Micron SOCAMM与RDIMM的模块及接口分工

    第一方 · 行业资料 · 截至2026-10-11技术问答 · 查阅:2026年10月11日

  3. [3] Micron FY2026 Q4及全年结果:SOCAMM组合与RDIMM

    第一方 · 财报 · 截至2026-09-03季度;2026-09-30公布 · 发布:2026年9月30日 · 查阅:2026年10月11日

  4. [4] Micron FY2026 Q3:LP5X SOCAMM2量产与容量组合

    第一方 · 财报 · FY2026 Q3 · 查阅:2026年10月11日

  5. [5] AMD LPDDR5X SOCAMM2、RDIMM与平台RAS

    第一方 · 行业资料 · 2026-04-06平台方向 · 发布:2026年4月6日 · 查阅:2026年10月11日

研究限制

  • 容量、通道、实际负载及平台需固定;原厂指定情境的能耗/TTFT不能外推至所有模块或工作负载。
  • Micron披露SOCAMM组合收入增长,未完整单列SOCAMM2各容量的收入、毛利与客户份额。

需要重新检查的事件

  • 模块、CPU平台支持、RAS、JEDEC标准或量产/客户资格更新时重核。
  • 原厂新财报披露SOCAMM/RDIMM收入、组合、位元出货及价格时更新商业证据。

本文仅供参考,不构成投资建议。