3、DDR与GDDR对比:DDR5 vs GDDR6 vs HBM的带宽/容量/成本权衡

做AI芯片选内存,说白了就是一场「既要又要还要」的博弈。你要带宽大、容量足、成本低——但现实是,这三样最多只能同时满足两样。

我这些年经手过好几个AI推理芯片的项目,每次选型都要跟系统团队吵上几轮。今天我就把DDR5、GDDR6、HBM这三条路线的底牌全摊开,咱们一起看看,到底什么场景该选谁。

3.1 三大内存家族的定位差异

先给个直观的对比。我习惯用一张表来快速对齐认知:

参数 DDR5 GDDR6 HBM2E / HBM3
单颗粒带宽 ~32 GB/s ~64 GB/s ~460 GB/s(堆叠后)
典型容量 8~64 GB(DIMM) 8~32 GB(板载) 4~16 GB(堆叠)
位宽 64-bit(每通道) 32-bit(每颗粒) 1024-bit(堆叠后)
功耗效率 ~10 pJ/bit ~12 pJ/bit ~3 pJ/bit
相对成本 1x(基准) 1.5~2x 5~8x
典型应用 CPU主存、边缘推理 GPU显存、中等算力卡 高端AI训练卡、HPC

你看,DDR5的强项是容量和成本,但带宽是短板。HBM正好反过来,带宽高得吓人,但容量上不去,价格也贵。GDDR6则卡在中间——比DDR快,比HBM便宜。

核心权衡口诀:

  • 要容量大、成本低 → 选DDR5
  • 要带宽高、不在乎成本 → 选HBM
  • 要平衡带宽和成本 → 选GDDR6

3.2 GDDR6X的PAM4信号技术

这里我想单独聊聊GDDR6X。它用了一个很有意思的技术——PAM4信号。

传统的DDR和GDDR6用的是NRZ(Non-Return-to-Zero)编码,每个时钟周期只能传1个bit。PAM4呢?它把信号分成4个电平,每个符号能传2个bit。

说白了,就是同样的频率下,带宽直接翻倍。

我在一个项目里用过GDDR6X,当时被它的信号完整性折腾得不轻。PAM4虽然带宽高,但对噪声特别敏感。你想想看,原来NRZ只需要区分0和1两个电平,现在PAM4要区分00、01、10、11四个电平——电平间距缩小了,稍微有点噪声就误码。

避坑指南:

我曾经在PCB布局时没注意GDDR6X的走线等长,结果跑不到标称频率。后来发现PAM4对skew的要求比NRZ严格得多。建议GDDR6X的走线长度差控制在±5mil以内,比DDR5的±20mil严苛不少。

GDDR6X的典型参数:

  • 数据速率:19~21 Gbps(PAM4)
  • 等效NRZ速率:38~42 Gbps
  • 单颗粒带宽:~84 GB/s
  • 功耗:比GDDR6高约15~20%

3.3 实际项目中的选型策略

好,理论说完了,咱们聊聊实战。我一般按以下三步来选:

  1. 先算带宽需求——你的AI模型需要多少GB/s?
  2. 再看容量约束——模型参数+中间结果要多大内存?
  3. 最后卡成本预算——BOM成本能承受多少?

举个例子。我之前做的一个边缘AI盒子,跑的是轻量级视觉模型,参数量不到100MB。算下来带宽需求也就20 GB/s左右。这时候选DDR5完全够用,成本还低。要是硬上GDDR6,那就是杀鸡用牛刀了。

另一个项目是做云端推理卡,要跑大语言模型。模型参数几十GB,带宽需求直奔500 GB/s以上。这时候DDR5的带宽根本不够看,只能上HBM。虽然贵,但没办法,性能瓶颈在那里。

注意:

别只看峰值带宽。实际有效带宽受很多因素影响:

  • DDR5的延迟比GDDR6低,适合小批量随机访问
  • GDDR6的burst传输效率高,适合连续大块数据
  • HBM的堆叠结构导致容量受限,但带宽一致性最好

我个人的经验是:

  • 如果模型能完全塞进芯片内部SRAM,那内存选什么都行——但这种情况很少见
  • 如果带宽需求在100 GB/s以下,优先考虑DDR5,成本优势太明显
  • 如果带宽需求在100~500 GB/s,GDDR6是甜点区
  • 超过500 GB/s,别犹豫,上HBM

3.4 知识体系结构图

下面这张图,是我自己梳理的选型决策逻辑,你可以参考:

AI芯片内存选型决策树 内存选型开始 带宽 < 100 GB/s 100~500 GB/s > 500 GB/s DDR5 容量大、成本低 GDDR6 / GDDR6X 带宽与成本平衡 HBM2E / HBM3 极致带宽 适用场景 边缘推理、CPU主存 适用场景 GPU显存、中等算力卡 适用场景 高端AI训练、HPC 没有最好的内存,只有最合适的

嗯,这张图基本概括了我的选型逻辑。你顺着带宽需求往下走,基本不会跑偏。

一个小技巧:

我习惯在项目初期先做带宽预算。把模型的所有算子跑一遍,统计每层的访存量,再乘以安全系数1.2~1.5。这样算出来的带宽需求,比拍脑袋准得多。

最后说一句。DDR5、GDDR6、HBM这三条路线,没有绝对的好坏。关键看你的产品定位。做消费级产品,成本敏感,DDR5是王道。做旗舰级训练卡,性能优先,HBM不可替代。GDDR6则适合那些「比上不足比下有余」的中端产品。

选型这事,说白了就是取舍的艺术。