🧠 AI芯片性能分析与调优实战
📘 30章 · 从入门到进阶
⚡ 完整目录 · 点击卡片跳转
📁 01.html ~ 30.html
01
AI芯片性能分析概述
芯片发展简史
核心指标
工具全景图
02
硬件架构基础
GPU/NPU/FPGA
计算单元
存储层次
数据流
03
性能分析工具链入门
Nsight Systems
Nsight Compute
VTune Profiler
04
Nsight Systems深度使用
时间轴分析
GPU/CPU关联
Trace/Profile
自定义标记
05
Nsight Compute核心功能
Kernel分析
性能瓶颈
指令/内存吞吐
Occupancy
06
VTune Profiler实战
热点分析
微架构探索
内存访问
GPU Offload
07
性能指标详解 (上)
算力利用率
内存带宽利用率
算术强度
08
性能指标详解 (下)
延迟与吞吐
功耗/能效比
Roofline模型
09
Roofline模型实战
构建Roofline图
计算/带宽瓶颈
优化方向
案例分析
10
Profiling数据解读
Kernel启动开销
内存拷贝重叠
PCIe传输
CPU-GPU同步
11
CUDA编程基础回顾
Kernel编写
Grid-Block-Thread
共享/全局内存
同步原语
12
CUDA性能优化策略 (上)
内存合并访问
Bank Conflict
循环展开
向量化
13
CUDA性能优化策略 (下)
Occupancy优化
Warp Divergence
指令级并行
流水线
14
内存优化专题
统一内存陷阱
页锁定内存
零拷贝技术
内存池管理
15
算子优化实战 (上)
GEMM优化
Tiling/Blocking
寄存器缓存
Tensor Core
16
算子优化实战 (下)
卷积优化
Winograd
Im2Col+GEMM
Fused Convolution
17
深度学习框架性能分析
PyTorch Profiler
TensorFlow Profiler
算子调度开销
18
PyTorch Profiler深度剖析
Kernel时间统计
内存分配追踪
数据加载器瓶颈
Autograd引擎
19
TensorFlow Profiler实战
Trace Viewer
输入管道优化
TPU分析
XLA编译
20
混合精度训练与性能
FP16/BF16/INT8
自动混合精度
Loss Scaling
硬件支持
21
分布式训练性能分析
数据/模型并行
All-Reduce开销
NCCL调优
梯度累积
22
通信优化专题
NVLink/InfiniBand
通信计算重叠
梯度压缩
异步梯度下降
23
推理优化与部署
TensorRT核心
INT8量化
动态形状
多流推理
24
TensorRT性能分析
Layer Profiling
内存优化
Kernel Auto-Tuning
DLA利用
25
ONNX Runtime性能调优
模型转换优化
Execution Provider
内存模式
Session选项
26
自定义Kernel开发与性能
CUDA C++自定义
JIT编译
Numba/CUDA Python
Triton语言
27
性能自动化分析脚本
Python Profiling脚本
自动化瓶颈检测
性能回归测试
CI/CD集成
28
案例实战 (一) ResNet-50
训练性能分析
Profiling→优化
性能提升对比
29
案例实战 (二) BERT推理
Transformer部署
Attention Kernel优化
端到端延迟降低
30
总结与进阶
调优方法论
Sparsity/Pruning
Architecture Search
学习资源