⚡ GPU性能分析流水线
30章 · 从零到精通
友好色系
01
GPU性能分析概述
→
为什么需要?应用场景 & 核心指标
02
GPU架构基础
→
Fermi→Hopper · SM · Warp · 内存层次
03
性能分析工具链概览
→
Nsight Systems/Compute · DCGM · 开源工具
04
环境搭建
→
驱动 · CUDA · Nsight · DCGM · Docker
05
nvidia-smi实战
→
命令详解 · 监控脚本 · pynvml
06
Nsight Systems入门
→
时间线分析 · CPU/GPU活动 · 瓶颈识别
07
Nsight Systems高级
→
NVTX · 多进程/流 · CUDA Graphs
08
Nsight Compute入门
→
Kernel分析 · Occupancy · Warp Stall
09
Nsight Compute高级
→
指令级 · 内存级 · Speed-of-Light · Tensor Core
10
DCGM与集群监控
→
DCGM · Prometheus · Grafana · 告警
11
Profiling基础指标
→
Occupancy · SM Activity · 带宽/计算利用率
12
性能瓶颈分类
→
Compute/Memory/Latency/Bandwidth Bound
13
Roofline模型
→
原理 · 运算强度 · 绘图 · 优化指导
14
CUDA Kernel优化基础
→
Grid/Block · Warp · 避免发散 · 同步
15
内存访问优化
→
合并访问 · 共享内存 · Bank Conflict · 只读缓存
16
数据传输优化
→
Pinned Memory · 异步传输 · Streams
17
CUDA Graphs优化
→
捕获重放 · 减少Launch开销 · 动态/静态图
18
Tensor Core与混合精度
→
cuBLAS/cuDNN · FP16/BF16 · 利用率分析
19
AI训练性能分析
→
PyTorch/TensorFlow · DataLoader · 时间线
20
AI推理性能分析
→
ONNX Runtime · TensorRT · Batch · Profiler
21
科学计算性能分析
→
cuBLAS/cuFFT · MPI+GPU · NCCL
22
图形渲染性能分析
→
OpenGL/Vulkan · Nsight Graphics · Draw Call
23
多GPU与分布式分析
→
NCCL · NVLink · 数据/模型并行 · 时间线
24
性能分析自动化
→
Python脚本 · 解析SQLite/CSV · 报告生成
25
性能回归测试
→
基准 · 自动化 · GitHub Actions · 阈值告警
26
案例1:矩阵乘法优化
→
Naive→cuBLAS · 共享内存 · Tensor Core
27
案例2:图像处理Pipeline
→
预处理 · Host-Device · Streams · NPP
28
案例3:Transformer模型分析
→
Attention · Softmax · Flash Attention · KV Cache
29
案例4:分子动力学模拟
→
NAMD/LAMMPS · 邻居列表 · 原子操作 · 通信
30
总结与最佳实践
→
工作流 · 陷阱 · Checklist · 未来趋势
✨ 点击任意卡片即可跳转至对应章节 (01.html ~ 30.html)