英伟达SOCAMM2引爆内存革命:性能超HBM3e30%,成本却低一半!

英伟达最近干了件挺果断的事,把第一代SOCAMM内存模块的推广给停了,转头就把研发重心全砸到SOCAMM2上。

之前他们还放话,今年要给AI产品装60到80万个SOCAMM,结果技术问题没搞定,项目搁了两次,连个正经的大订单都没下出去。

遇到这种情况及时掉头,总比硬扛着耗资源强。

SOCAMM这技术本来定位就很明确,就是给AI服务器搞的高带宽、低功耗内存方案。

目标也简单,既要性能接近HBM,又要把成本降下来。

它是用LPDRAM搭配压缩连接内存模块,尺寸比传统DDR5RDIMM小,功耗还能少三分之一,单看这些参数,确实挺适合AI服务器的需求。

之前英伟达GB300NVL72的规格表里都写了,能支持18TB基于LPDDR5X的SOCAMM,带宽能到14.3TB/s,可惜后来主板设计变了,这模块没法马上商用,不过好在还能跟VeraRubin平台配合,给VeraCPU当非板载内存用,灵活性倒是没丢。

全球厂商抢滩SOCAMM2,国产玩家靠本土化破局

既然SOCAMM2是个香饽饽,内存大厂们自然不会闲着。

美光动作最快,今年3月就给客户送了基于LPDDR5X的SOCAMM模块,算是第一个吃螃蟹的。

不过先发优势能不能稳住,还得看后续SOCAMM2的迭代速度,还有成本能不能压下来,毕竟AI厂商都精着呢,光快没用,性价比才是王道。

三星和SK海力士这两个行业老大哥,虽然起步慢了点,但架不住技术储备足。

三星把心思花在紧凑性和散热上,毕竟AI服务器里空间小、温度高,模块要是太占地方或者散热差,根本没法用,SK海力士则盯着速度和稳定性,想把数据传输延迟降下来,还得保证多模块一起工作不翻车。

现在这两家都在跟英伟达合作测样品,计划明年初量产,到时候美光的压力怕是不小。

国内厂商也没掉队,江波龙就推出了自研的SOCAMM2。

本来想他们可能就是跟着国际大厂走,后来发现人家挺会因地制宜,把LPCAMM2顶部凸出的梯形结构给去掉了,这样高度降下来,就能更好适配国内常见的服务器和液冷系统。

这种本土化优化挺聪明的,国内AI产业发展快,对自主可控的存储产品需求又大,只要能突破技术瓶颈,国产SOCAMM2在国内市场肯定有机会。

SOCAMM2想成标配,还得跨过兼容性和成本两道坎

不过SOCAMM2要真能大规模商用,还得解决不少麻烦。

首先是兼容性问题,老的AI服务器内存控制器,可能根本不支持SOCAMM2的高速度和特殊指令。

企业要想用,就得升级硬件,这可不是小钱,中小企业怕是会犹豫,毕竟不是谁都能随便掏一笔钱换设备的。

而且操作系统和AI框架也得跟着改,比如TensorFlow、PyTorch这些,得针对SOCAMM2的带宽调整算法,不然硬件再好,性能发挥不出来也是白搭。

成本也是个绕不开的坎,虽然SOCAMM2定位是“比HBM便宜”,但跟传统DDR5内存比,用的LPDDR5X或者LPDDR6颗粒,还有模块化设计,研发和制造成本都更高。

尤其是LPDDR6还在技术验证阶段,量产初期成本肯定低不了,定价就很尴尬:定高了拼不过DDR5,定低了厂商没利润,研发投入就没动力。

还有生产良率,要是良率上不去,单个模块的成本还得往上涨,这对大规模推广可不是好事。

当然机会也摆在那儿,现在AI应用越来越多,AI服务器需求涨得飞快,内存作为核心部件,需求自然也跟着涨。

有数据说2025年AI服务器市场价值能到2980亿美元,占整个服务器行业的七成以上,这市场规模想想都吓人。

SOCAMM2的高带宽、低功耗正好契合中高端AI服务器的需求,不管是训练、推理还是云计算,都用得上。

更重要的是,它还能倒逼其他内存技术升级,比如HBM、DDR5可能会加快改进,降低成本,这样整个行业都能进步,对AI产业也是好事。

总的来说,英伟达放弃SOCAMM1转攻SOCAMM2,算是踩准了AI内存的痛点。

它不是要取代谁,而是补全了AI服务器的内存需求缺口,HBM负责极致性能,SOCAMM2负责灵活和性价比,两者互补着来。

虽然现在有兼容性、成本这些问题,但全球厂商都在发力,国产玩家也在追赶,再过两三年,等LPDDR6量产了,生态也成熟了,SOCAMM2说不定真能成为AI服务器的标配。

到时候AI算力成本能降下来,应用也能发展得更快,这才是最实在的好处。

展开阅读全文

更新时间:2025-10-16

标签:数码   英伟   内存   成本   性能   三星   服务器   模块   需求   厂商   技术   量产

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight 2020- All Rights Reserved. Powered By 71396.com 闽ICP备11008920号
闽公网安备35020302034903号

Top