大模型推理芯片架构设计精讲

📚 共计 30 章节
01
AI芯片的黄金时代
大模型推理的算力饥渴与芯片架构的演进逻辑
趋势算力
02
计算核心拆解
从SIMT到脉动阵列,矩阵乘法加速器的硬件实现
SIMT脉动阵列
03
存储层次设计
HBM与SRAM的协同,解决‘存储墙’瓶颈
HBMSRAM
04
数据流与片上互联
NoC与Ring Bus,数据如何在芯片内高效流转
NoCRing Bus
05
稀疏化与量化
利用硬件特性加速稀疏矩阵计算与低精度推理
稀疏量化
06
Transformer专用加速
Attention机制的硬件化,FlashAttention原理
AttentionFlash
07
多芯片互联
Chiplet技术与Die-to-Die接口,构建千卡集群
ChipletD2D
08
功耗与散热设计
TDP与热管理,如何在有限功耗下榨取性能
TDP散热
09
编译器与算子库
从PyTorch模型到芯片指令的编译栈
编译器算子
10
性能分析与调优
Roofline模型与硬件性能计数器实战
Roofline调优
11
RISC-V在AI芯片中的应用
自定义指令集与向量扩展
RISC-V向量
12
存算一体架构
近存计算与存内计算,颠覆冯·诺依曼架构
存算一体近存
13
光互连与硅光芯片
未来芯片间通信的颠覆性技术
硅光光互连
14
模拟计算与混合信号
利用物理特性做低功耗计算
模拟混合信号
15
可重构计算
FPGA与CGRA在AI推理中的灵活应用
FPGACGRA
16
安全与可信执行
TEE与同态加密在云端推理中的硬件支持
TEE同态加密
17
芯片验证与仿真
Emulation与FPGA原型验证,流片前的最后防线
验证Emulation
18
先进封装技术
2.5D与3D封装,堆叠出更高性能
2.5D3D封装
19
芯片测试与良率
DFT与ATE测试,如何保证量产质量
DFTATE
20
芯片成本分析
NRE与制造成本,如何做架构取舍
NRE成本
21
边缘AI芯片
低功耗、低延迟、高能效比的架构设计
边缘低功耗
22
自动驾驶芯片
车规级要求与多模态融合的算力挑战
车规多模态
23
数据中心AI芯片
高吞吐、低延迟、虚拟化与多租户支持
数据中心虚拟化
24
芯片生命周期管理
从设计到退役,全流程的监控与维护
生命周期监控
25
开源AI芯片生态
OpenROAD、Chipyard与自由芯片设计
开源Chipyard
26
芯片设计中的EDA工具
逻辑综合、布局布线、时序分析
EDA综合
27
AI辅助芯片设计
利用大模型优化架构与布局
AI辅助大模型
28
芯片的物理设计
标准单元库、时钟树与电源网络
物理设计时钟树
29
芯片的架构探索
Design Space Exploration与性能建模
DSE建模
30
未来展望
超越CMOS,量子计算与神经形态芯片
量子神经形态