01
HBM前世今生
从GDDR到HBM演进,HBM1/2/2E/3/3E/4代际对比,为何成为AI芯片标配。
代际AI
02
HBM物理层揭秘
TSV硅通孔、microbump微凸点、中介层(Interposer),3D堆叠工艺挑战。
TSV3D堆叠
03
HBM接口协议
JEDEC标准概览,伪通道(Pseudo Channel),256bit独立通道详解。
JEDEC伪通道
04
HBM控制器架构
控制器模块划分:命令调度器、数据通路、刷新逻辑,多通道协同。
架构调度
05
HBM与GPU缓存层次
L1/L2缓存与HBM交互,缓存一致性,Tiled缓存与带宽匹配。
缓存一致性
06
HBM时序与延迟
tRC、tRCD、tCL等关键时序,行激活与列访问,延迟隐藏技术。
时序延迟
07
HBM刷新机制
刷新类型(REF/REFpb),刷新对带宽影响,调度策略优化。
刷新调度
08
HBM功耗管理
DVFS、自刷新模式、温度补偿刷新,功耗建模与分析。
功耗DVFS
09
HBM纠错码(ECC)
片上ECC与主存ECC,SECDED原理,ECC对延迟影响。
ECC可靠性
10
HBM测试与修复
BIST、冗余行/列修复,良率提升策略,内建自测试。
测试修复
11
GPU计算单元与HBM映射
SM/CU与HBM通道亲和性,数据分布策略,Bank冲突避免。
映射Bank
12
HBM带宽利用率
利用率计算公式,影响因素,实际项目优化方法。
带宽优化
13
HBM死锁与活锁
请求依赖图,死锁避免协议,活锁检测与恢复机制。
死锁活锁
14
HBM服务质量(QoS)
GPU任务优先级,带宽隔离,延迟敏感任务保障。
QoS优先级
15
HBM与片内互联
NoC与HBM控制器接口,跨芯片数据传输,一致性扩展。
NoC互联
16
HBM物理层设计
PHY架构,时钟数据恢复(CDR),均衡技术,信号完整性。
PHYCDR
17
HBM封装技术
2.5D与3D封装对比,硅桥(EMIB),热管理挑战。
封装EMIB
18
HBM系统级验证
验证平台搭建,随机测试与定向测试,覆盖率驱动验证。
验证覆盖率
19
HBM性能建模
SystemC/TLM模型,性能计数器,瓶颈分析。
建模SystemC
20
HBM与AI训练
大模型训练HBM需求,张量并行与带宽,显存容量优化。
AI训练张量并行
21
HBM与AI推理
推理场景HBM特点,权重复用与带宽,量化影响。
推理量化
22
HBM与图形渲染
纹理缓存与HBM,帧缓冲管理,实时渲染延迟要求。
渲染帧缓冲
23
HBM与异构计算
CPU+GPU+HBM协同,统一内存模型,页迁移策略。
异构统一内存
24
HBM安全与隔离
多租户隔离,侧信道防护,安全加密引擎。
安全隔离
25
HBM未来趋势
HBM4规范展望,光学互连,近存计算架构。
未来HBM4
26
HBM驱动开发
Linux内核HBM驱动,内存映射,中断处理,性能调优。
驱动Linux
27
HBM调试与诊断
调试工具链,Trace Buffer,错误注入,现场分析。
调试诊断
28
HBM与CXL
CXL内存池化,HBM作为CXL设备,内存扩展与共享。
CXL池化
29
HBM成本分析
HBM成本构成,与GDDR7对比,TCO评估。
成本TCO
30
HBM实战项目
从零搭建HBM子系统,需求分析,架构设计,验证与调试全流程。
实战全流程