1. HBM基础与演进:从GDDR到HBM的技术跃迁

各位好,我是老李。今天咱们聊聊HBM——高带宽存储器。说实话,我第一次接触HBM是在做一款AI加速器的时候,那时候被带宽卡得死死的,GDDR5怎么调都上不去。后来换了HBM,整个系统瓶颈一下子就解开了。这种感觉,嗯,就像堵车时突然上了高速。

从GDDR到HBM:为什么非要换赛道?

先说说GDDR。GDDR(Graphics DDR)本来是给显卡用的,带宽确实不低。但有个致命问题——它走的是PCB走线。你想想看,几百根数据线从GPU拉到DDR颗粒,每根线都得等长、阻抗匹配,频率一高信号就歪了。

我做过一个项目,GDDR6跑16Gbps,PCB Layout改了整整八版。每次改完,SI仿真都过不了。最后没办法,降频到14Gbps才稳住。这就是GDDR的物理天花板——你没法在PCB上无限提高频率

HBM的思路完全不同。它把DRAM die和GPU die堆在一起,中间用硅中介层(Silicon Interposer)连接。说白了,就是把内存"贴"在芯片旁边,走线短到毫米级。这样带宽可以做到TB/s级别,功耗还更低。

核心差异一句话总结:GDDR是"远距离高频通信",HBM是"近距离并行总线"。一个拼频率,一个拼宽度。

HBM1/2/2E/3/3E标准对比

HBM从2013年推出到现在,经历了五代演进。我整理了一张表,大家一目了然。

标准 推出年份 单Die容量 带宽/堆栈 I/O速率 堆叠层数
HBM1 2013 1Gb 128 GB/s 1 Gbps 4层
HBM2 2016 8Gb 256 GB/s 2 Gbps 4/8层
HBM2E 2018 16Gb 410 GB/s 3.2 Gbps 8/12层
HBM3 2020 16Gb 819 GB/s 6.4 Gbps 8/12层
HBM3E 2023 24Gb 1.2 TB/s 9.2 Gbps 12/16层

看到这个带宽增长了吗?从HBM1的128GB/s到HBM3E的1.2TB/s,十年翻了将近10倍。我当年做HBM2项目时,256GB/s已经觉得"够用一辈子"了。现在回头看,真是天真。

HBM1:开山之作

HBM1是AMD和SK海力士联合搞出来的。4层DRAM堆叠,每层1Gb,总共4Gb容量。带宽128GB/s,用的是1024位宽的总线。

1024位宽什么概念?GDDR5当时是32位。HBM1直接拉了32倍。这就是我说的"用宽度换频率"。频率只有1Gbps,但总线宽到离谱。

个人经验:我第一次看HBM1的spec时,被1024位宽吓到了。后来做仿真才发现,位宽大也有烦恼——TSV(硅通孔)的寄生电容很难控制。我建议新手做HBM接口时,先花时间把TSV模型跑透,不然后面SI问题会让你头疼。

HBM2与HBM2E:容量翻倍,带宽翻倍

HBM2把单Die容量从1Gb提到了8Gb,带宽翻到256GB/s。最关键的是,它支持了8层堆叠。这意味着单颗HBM2可以做到8GB容量(8层×8Gb)。

HBM2E是HBM2的"加量版"。单Die容量提到16Gb,带宽冲到410GB/s。我做过一个HBM2E的项目,当时选型时纠结了很久——到底用HBM2还是HBM2E?

我的建议是:如果带宽需求在300GB/s以下,HBM2性价比更高。超过400GB/s,直接上HBM2E。中间那一段其实很尴尬,HBM2跑不满,HBM2E又有点浪费。

HBM3与HBM3E:进入TB/s时代

HBM3是个大跨越。带宽直接翻到819GB/s,I/O速率6.4Gbps。它引入了PAM4编码,信号质量更好。还加了ECC纠错,可靠性提升不少。

HBM3E更是猛。单Die容量24Gb,带宽1.2TB/s。16层堆叠,单颗容量可以做到48GB。说实话,我第一次看到这个数字时,以为spec写错了。

避坑指南:我曾经在HBM3项目中踩过一个坑——PAM4的接收端均衡参数没调好,导致误码率偏高。后来花了三周才找到问题。记住,HBM3的PAM4对PCB走线损耗非常敏感,建议在仿真阶段就把通道损耗控制在-15dB以内。

HBM4展望:下一步往哪走?

HBM4预计2025-2026年推出。目前已知的信息是:

  • 带宽目标:2 TB/s以上,可能到2.4 TB/s
  • I/O速率:10-12 Gbps
  • 堆叠层数:16层起步,可能到20层
  • 接口变化:可能会引入新的PHY架构

我个人觉得,HBM4最大的挑战不是带宽,而是散热。16层甚至20层堆叠,中间层的热量怎么导出来?目前看混合键合(Hybrid Bonding)是方向,但良率还是个问题。

另外,HBM4的接口协议可能会大改。现在的HBM接口是1024位宽,到了HBM4,位宽可能翻到2048甚至4096。这对CMN-HNI接口设计是个巨大挑战——你想想看,几千根线要同步,时钟树怎么走?

知识体系总览

下面这张图是我画的HBM演进路线图,从GDDR到HBM4,核心指标一目了然。

HBM演进路线图 GDDR PCB走线 带宽<1TB/s HBM1 2013年 128GB/s 4层堆叠 HBM2 2016年 256GB/s 8层堆叠 HBM2E 2018年 410GB/s 12层堆叠 HBM3 2020年 819GB/s PAM4编码 HBM3E 2023年 1.2TB/s 16层堆叠 HBM4 2025-2026 2TB/s+ 20层堆叠 128GB/s 256GB/s 410GB/s 819GB/s 1.2TB/s 2TB/s 关键演进特征 带宽:每代翻倍或接近翻倍 堆叠层数:4层 → 20层 接口技术:从单端到PAM4 HBM4:混合键合 + 新PHY架构 数据来源:JEDEC标准及行业公开资料

这张图里,红色虚线是带宽增长曲线。你看这个斜率,越来越陡。HBM1到HBM2用了3年,带宽翻倍。HBM3到HBM3E只用了3年,带宽涨了50%。到了HBM4,我估计2TB/s只是起步价。

小结

HBM的演进说白了就三个字:更高、更宽、更厚。更高是频率,更宽是位宽,更厚是堆叠层数。这三个维度同时发力,才撑起了今天AI芯片对带宽的疯狂需求。

下一节我们会深入HBM的物理层设计,重点讲TSV和Micro-bump的布局技巧。嗯,那部分才是真正烧脑的地方。


公众号:蓝海资料掘金营,微信deep3321