AI芯片存储子系统设计与带宽优化

📚 共计 30 章节
01
AI芯片存储系统概述
存储层次结构 · 存储墙问题 · 带宽瓶颈分析
基础全局
02
片上存储架构
SRAM与寄存器文件 · 多Bank交叉 · 存储分区策略
片上架构
03
片外存储接口
DDR/LPDDR/HBM协议 · GDDR6/HBM2E · CXL与CCIX
接口协议
04
数据流与访存模式
卷积数据复用 · 矩阵乘法流 · Transformer注意力
数据流模式
05
带宽优化技术
压缩稀疏化 · 近存储计算 · 预取缓存 · 流水线
优化带宽
06
存储一致性模型
弱一致性 · 写缓冲合并 · 存储屏障指令
一致性内存模型
07
高级存储架构
3D堆叠HBM · 存算一体 · 近存计算与存内处理
3D存算一体
08
存储子系统验证与调试
带宽测量 · 性能计数器 · 瓶颈定位
验证调试
09
AI芯片存储设计实例
典型架构分析 · 带宽优化案例 · 设计权衡
实例分析
10
未来趋势
MRAM/RRAM/PCM · 存算一体 · 光互连量子存储
前沿器件
11
存储子系统功耗优化
DVFS · 电源门控 · 数据布局与功耗
功耗低功耗
12
多核与多芯片存储一致性
缓存一致性 · 目录协议 · 分布式共享存储
多核一致性
13
AI编译器与存储优化
算子融合 · 自动调优 · 编译时数据布局
编译器优化
14
存储子系统可靠性设计
ECC纠错 · 存储修复冗余 · 软错误防护
可靠性ECC
15
存储子系统测试与可测性
MBIST · 内建自测试 · 边界扫描
测试DFT
16
存储子系统物理设计
存储编译器 · 宏单元布局 · 时钟树与时序
物理后端
17
存储子系统建模与仿真
性能模型 · 功耗模型 · 系统级仿真
建模仿真
18
存储与计算单元协同设计
计算存储一体化 · 数据流 · 脉动阵列接口
协同架构
19
存储子系统安全设计
侧信道防护 · 存储加密 · 可信执行环境
安全加密
20
存储子系统标准化
OpenCAPI · Gen-Z · OpenHMC · 接口趋势
标准互联
21
存储子系统调试工具
逻辑分析仪 · 协议分析仪 · 性能剖析
工具调试
22
存储子系统设计方法论
敏捷设计 · IP复用 · 设计空间探索
方法论流程
23
存储子系统与操作系统
虚拟内存 · 页表设计 · TLB优化
OS虚拟内存
24
存储与深度学习框架
TensorFlow/PyTorch优化 · 算子存储分配
框架DL
25
存储与数据预处理
数据增强优化 · 加载流水线 · 带宽与吞吐
预处理流水线
26
存储与模型压缩
量化感知存储 · 剪枝优化 · 知识蒸馏需求
压缩量化
27
存储与分布式训练
参数服务器 · 梯度聚合 · 通信存储重叠
分布式训练
28
存储与推理部署
边缘优化 · 移动端设计 · 云侧推理
推理部署
29
存储与异构计算
CPU-GPU统一存储 · FPGA接口 · ASIC定制
异构统一存储
30
存储子系统设计案例
Google TPU · NVIDIA GPU · 华为昇腾
案例旗舰