2. 性能分析工具生态：NVIDIA工具栈、AMD工具栈、Intel工具栈、开源工具概览
大家好，我是你们的讲师。今天我们来聊聊GPU性能分析的工具生态。说实话，我刚入行那会儿，面对一堆工具真是头大——NVIDIA的、AMD的、Intel的，还有一堆开源项目，每个都号称能“透视”GPU内部。但工具再多，不会用等于零。这一章，我就带你把主流工具栈捋一遍，帮你建立一张“工具地图”。
核心观点：没有万能工具，只有最合适的组合。不同厂商的工具栈虽然长得不一样，但底层逻辑是相通的——无非是“采样、追踪、计数、可视化”这四板斧。
2.1 NVIDIA工具栈：从Nsight到nvprof
NVIDIA的工具栈是最成熟的，也是我日常用得最多的。我个人习惯把它的工具分成三层：
- 底层：CUDA Profiling Tools Interface (CUPTI) —— 这是所有上层工具的基石，直接跟驱动打交道。
- 中间层：nvprof / nvvp —— 老牌工具，虽然官方已标记为“deprecated”，但很多老项目还在用。
- 上层：Nsight Systems / Nsight Compute —— 现在的亲儿子，功能强大，界面也漂亮。
嗯，这里要注意：千万别再用nvprof做新项目了。我在2022年接手一个项目时，发现团队还在用nvprof跑性能数据，结果发现它不支持Ampere架构的一些新计数器。后来换成Nsight Compute，才把问题定位清楚。
我的建议：如果你刚开始学，直接上Nsight Systems做宏观分析，再用Nsight Compute做kernel级别的微观调优。这两个工具配合使用，能覆盖90%的性能分析场景。
Nsight Systems实战要点
说白了，Nsight Systems就是个时间线查看器。它能告诉你：CPU在等什么？GPU在忙什么？数据传输花了多久？
# 命令行采集示例
nsys profile -o my_profile --stats=true ./my_cuda_app
# 关键参数说明
# -o: 输出文件名
# --stats: 输出统计摘要
# -t cuda,nvtx,osrt: 追踪CUDA、NVTX和OS运行时我曾经遇到过一个案例：一个训练任务总是间歇性卡顿。用Nsight Systems一看，发现是CPU端的数据预处理线程偶尔被操作系统调度走了，导致GPU饿死。这种问题，光看GPU利用率是发现不了的。
2.2 AMD工具栈：ROCm生态下的选择
AMD的工具栈这几年进步很快，但说实话，跟NVIDIA比还是有差距。它的核心工具包括：
- rocprof：类似于NVIDIA的nvprof，命令行性能分析器。
- rocgdb：GPU调试器，支持断点、单步执行。
- Radeon GPU Profiler (RGP)：图形应用专用，游戏开发者用得多。
- OmniTrace：新出的追踪工具，支持多GPU场景。
你想想看，AMD的生态为什么总让人觉得“差点意思”？我觉得主要是文档和社区支持不够。我在一个项目中用ROCm跑大模型推理，想查一下某个算子的性能瓶颈，结果发现rocprof的文档里连计数器列表都没写全。最后还是翻源码才搞明白。
避坑指南：我曾经在AMD GPU上跑一个自定义算子，用rocprof采集数据时发现结果总是对不上。后来排查了半天，发现是rocprof的版本跟驱动不匹配。记住：AMD的工具一定要跟驱动版本严格对应，否则数据不可信。
2.3 Intel工具栈：从VTune到GPA
Intel的GPU性能分析工具，主要面向集成显卡和即将到来的Arc系列。核心工具包括：
| 工具名称 | 用途 | 我的评价 |
|---|---|---|
| VTune Profiler | CPU+GPU统一分析 | 老牌工具，功能全面但有点重 |
| GPA (Graphics Performance Analyzers) | 图形和计算性能分析 | 轻量级，适合快速定位 |
| Intel Advisor | 向量化和并行化建议 | 适合代码优化前的“预分析” |
| oneAPI DPC++ Profiler | SYCL/DPC++应用分析 | 跨平台场景下的选择 |
我个人觉得Intel工具栈最大的优势是CPU+GPU联合分析。VTune能同时看到CPU端的线程调度和GPU端的执行情况，这在异构计算场景下特别有用。我记得有一次优化一个视频编码器，用VTune发现GPU利用率只有60%，但CPU端已经满载了。原来瓶颈在CPU端的帧封装逻辑上——这要是只看GPU数据，永远找不到根因。
2.4 开源工具概览：社区的力量
除了厂商工具，开源社区也贡献了不少好东西。我挑几个常用的说说：
- NVIDIA Nsight开源版：基于CUPTI的封装，社区维护。
- AMD ROCProfiler：rocprof的开源底层库。
- Intel Metrics Discovery：Intel GPU计数器的开源接口。
- Google GPU Perf：Chrome团队开发的WebGPU性能分析工具。
- PAPI：跨平台性能计数器接口，支持多种GPU。
为什么会有人用开源工具？说白了，厂商工具虽然好用，但有时候不够灵活。比如你想在自动化测试流水线里集成性能分析，厂商的GUI工具就不好使了。这时候，开源工具的命令行接口和Python绑定就派上用场了。
我的建议：如果你做的是长期维护的项目，可以考虑基于CUPTI或ROCProfiler自己封装一套性能分析框架。虽然前期投入大，但后期定制化能力很强。我在一个自动驾驶项目中就是这么干的——用CUPTI采集原始数据，再用Python做后处理和可视化，效果比直接用Nsight还好。
2.5 工具选择决策树
说了这么多，到底该用哪个？我画了一张决策图，帮你快速选择：
2.6 我的工具组合建议
最后，分享一套我常用的组合拳：
- 第一步：用Nsight Systems（或VTune）做全局扫描，找到热点区域。
- 第二步：用Nsight Compute（或rocprof）深入分析热点kernel。
- 第三步：用自定义脚本（基于CUPTI/ROCProfiler）做回归测试。
- 第四步：用开源工具（如PAPI）做跨平台对比。
这套流程我在好几个项目里验证过，效果不错。当然，工具只是手段，关键还是你对GPU架构的理解。下一章我们会深入GPU硬件架构，到时候你就知道为什么这些工具要这么设计了。
本章小结：
- NVIDIA工具栈最成熟，推荐Nsight Systems + Nsight Compute组合。
- AMD工具栈进步快，但要注意版本兼容性。
- Intel工具栈强在CPU+GPU联合分析。
- 开源工具适合定制化和自动化场景。
- 没有万能工具，根据场景灵活选择。