GPU性能分析工具 从入门到实战

📚 共计 30 章节
第1章
GPU性能分析概述
GPU架构基础 · 性能分析的重要性 · 常见性能瓶颈类型
概念入门
第2章
性能分析工具生态
NVIDIA工具栈 · AMD工具栈 · Intel工具栈 · 开源工具概览
生态对比
第3章
NVIDIA Nsight Systems入门
安装与配置 · 基本界面介绍 · 首次性能追踪
Nsight入门
第4章
Nsight Systems深度使用
时间轴分析 · CPU/GPU活动关联 · Trace分析技巧
进阶时间轴
第5章
NVIDIA Nsight Compute入门
安装与配置 · 内核分析基础 · 性能指标解读
内核指标
第6章
Nsight Compute高级分析
Occupancy分析 · 内存带宽分析 · 指令级优化
Occupancy优化
第7章
NVIDIA Visual Profiler (nvvp)
历史与现状 · 基本使用方法 · 与Nsight的对比
nvvp回顾
第8章
NVIDIA SMI (nvidia-smi)
命令行监控 · GPU状态查询 · 进程管理 · 持久化监控
CLI监控
第9章
DCGM (Data Center GPU Manager)
数据中心级监控 · 健康检查 · 故障诊断
数据中心健康
第10章
CUDA-GDB与CUDA-MEMCHECK
GPU调试基础 · 内存错误检测 · 竞争条件分析
调试内存
第11章
AMD ROCm工具栈
ROCProfiler · ROCgdb · ROCm SMI基本使用
AMDROCm
第12章
Intel oneAPI工具栈
VTune Profiler · Advisor · Intel GPU Metrics
InteloneAPI
第13章
开源工具
NVIDIA Nsight Perf SDK · PyTorch Profiler · TensorBoard Profiling
开源PyTorch
第14章
GPU性能指标详解
占用率(Occupancy) · 吞吐量 · 延迟 · 带宽利用率
指标核心
第15章
内存性能分析
全局内存 · 共享内存 · 寄存器 · 常量内存 · 纹理内存
内存层次
第16章
计算性能分析
算术强度 · 计算与访存比 · 指令发射效率
计算指令
第17章
并发与流分析
CUDA Stream · 异步操作 · 多流并发 · MPS
并发Stream
第18章
内核启动开销
内核启动延迟 · 上下文切换 · 驱动开销
启动延迟
第19章
PCIe与数据传输
主机-设备传输 · P2P传输 · 带宽瓶颈
PCIe传输
第20章
GPU功耗与热分析
功耗监控 · 温度管理 · 动态调频
功耗散热
第21章
深度学习训练性能分析
数据加载 · 前向/反向传播 · 梯度累积
训练深度学习
第22章
深度学习推理性能分析
批处理优化 · TensorRT · INT8量化
推理TensorRT
第23章
HPC应用性能分析
MPI+GPU · 多节点通信 · 负载均衡
HPCMPI
第24章
图形渲染性能分析
帧率分析 · Draw Call优化 · Shader性能
渲染图形
第25章
性能分析自动化
脚本化分析 · CI/CD集成 · 回归测试
自动化CI
第26章
性能瓶颈定位实战:案例1
内存带宽受限 · 诊断与优化
实战带宽
第27章
性能瓶颈定位实战:案例2
计算受限与负载不均衡
实战负载
第28章
性能瓶颈定位实战:案例3
数据传输与同步开销
实战同步
第29章
性能优化策略
算法优化 · 内存优化 · 并行优化 · 混合精度
优化策略
第30章
课程总结与进阶路径
性能分析工程师技能树 · 推荐资源 · 社区参与
总结进阶