CUDA 线程块与网格精讲 · 课程目录

01CUDA编程模型概述

CPU与GPU架构差异、异构计算概念、CUDA编程基本流程。

02线程层次结构

线程(Thread)、线程块(Block)、网格(Grid)的概念与关系。

03线程块配置

一维、二维、三维线程块的声明与使用场景。

一维、二维、三维网格的声明与使用场景。

05内置变量详解

threadIdx、blockIdx、blockDim、gridDim深入理解。

06线程索引计算

全局线程ID的计算公式与推导。

07线程块大小选择

影响性能的因素、warp概念、占用率计算。

08网格大小选择

处理任意大小数据集的技巧、边界检查。

09共享内存基础

共享内存的声明、生命周期、作用域。

10共享内存与线程块

共享内存在线程块内的共享机制。

__syncthreads()的使用与注意事项。

12共享内存bank冲突

bank结构、冲突原因、避免策略。

13共享内存应用案例

矩阵转置优化。

14全局内存访问模式

合并访问、对齐访问、跨步访问。

15常量内存与纹理内存

常量内存使用场景、纹理内存缓存特性。

16寄存器与本地内存

寄存器溢出、本地内存的延迟。

原子函数的种类、使用场景、性能影响。

18流与并发执行

CUDA流的创建、同步、多流并发。

19事件与计时

CUDA事件的创建、记录、计算耗时。

从GPU启动GPU kernel的机制与限制。

统一内存的概念、页面错误、性能优化。

22CUDA错误处理

错误检查宏、cudaGetLastError的使用。

23性能分析工具

nvprof/Nsight Systems的基本使用。

24归约操作优化

树形归约、warp shuffle指令。

25矩阵乘法优化

分块矩阵乘法、共享内存优化。

26卷积操作优化

im2col方法、共享内存缓存。

27直方图计算

原子操作与共享内存结合。

28前缀和(Scan)

并行前缀和算法、Bank冲突优化。

奇偶排序、双调排序的GPU实现。

30CUDA编程最佳实践

代码优化 checklist、常见陷阱总结。