🚀 CUDA 图计算加速实战
30 章 · 从入门到精通
⚡ 图捕获 · 手动构建 · 性能优化
🧩 节点 · 依赖 · 实例化
📘 友好色系
01
CUDA图计算概述
什么是CUDA图、图计算与传统kernel启动的对比、为什么需要图计算。
02
CUDA图的核心概念
节点(Node)、边(Edge)、图(Graph)、图执行实例(GraphExec)。
03
CUDA图创建方式
流捕获(Stream Capture)与手动构建(Manual API)。
04
流捕获入门
cudaStreamBeginCapture、cudaStreamEndCapture、捕获模式详解。
05
手动构建图
cudaGraphCreate、cudaGraphAddKernelNode、cudaGraphAddMemcpyNode。
06
图执行与实例化
cudaGraphInstantiate、cudaGraphLaunch、cudaGraphExecDestroy。
07
图更新机制
cudaGraphExecUpdate、更新条件与限制、性能优化。
08
动态图与静态图
图的可变性、参数更新策略、实际应用场景。
09
图节点类型详解
Kernel节点、Memcpy节点、Memset节点、Empty节点。
10
图依赖关系管理
cudaGraphAddDependencies、依赖链构建、拓扑排序。
11
图调试与验证
cudaGraphDebugDotPrint、图可视化工具、常见错误排查。
12
图与CUDA流交互
图与流的同步、多流图执行、流序依赖。
13
图与CUDA事件
事件记录与等待、图内事件同步、性能分析。
14
图与CUDA内存管理
统一内存、图内内存分配、内存池优化。
15
图与CUDA内核启动
内核参数传递、动态并行、图内嵌套图。
16
图与CUDA库集成
cuBLAS、cuFFT、cuDNN与图计算的结合。
17
图计算性能分析
NVIDIA Nsight Systems、NVIDIA Nsight Compute、图性能指标。
18
图计算优化策略
节点融合、图剪枝、内存访问模式优化。
19
图计算与多GPU
多GPU图构建、跨设备依赖、P2P通信。
20
图计算与MPS
多进程服务、图共享、资源隔离。
21
CUDA Graphs API高级特性
条件节点、循环节点、图序列化。
22
深度学习中的应用
模型推理加速、动态图转静态图、TensorRT集成。
23
科学计算中的应用
分子动力学、有限元分析、流体模拟。
24
图像处理中的应用
滤波链、特征提取、实时处理。
25
金融计算中的应用
蒙特卡洛模拟、风险分析、高频交易。
26
CUDA 12.x新特性
图扩展、性能改进、新API。
27
实战：从零构建图计算应用 (上)
需求分析、图设计、代码实现。
28
实战：从零构建图计算应用 (下)
性能调优、验证、部署。
29
常见陷阱与最佳实践
死锁、资源泄漏、过度捕获。
30
图计算未来展望
硬件支持、软件生态、研究方向。