🚀 GPU 加速实战
软硬件协同 · 30章
🎯 友好色系
01
GPU计算概述
CPU/GPU对比
并行优势
图形/AI
02
CUDA开发环境搭建
驱动安装
Toolkit
cuDNN
验证
03
CUDA编程模型
主机/设备
Kernel
线程层次
内存层次
04
第一个CUDA程序
向量加法
nvcc编译
运行时API
调试
05
线程与块索引
threadIdx
blockIdx
维度映射
06
GPU内存模型
全局/共享
寄存器
常量/纹理
07
全局内存访问优化
合并访问
对齐
Bank Conflict
08
共享内存应用
声明/同步
__syncthreads
矩阵转置
09
常量内存与纹理内存
常量场景
纹理缓存
图像处理
10
CUDA流与事件
并发Kernel
流同步
事件计时
11
CUDA错误处理
错误码
cuda-gdb
Nsight
12
CUDA性能分析工具
nvprof
Nsight Systems
Occupancy
13
矩阵乘法优化
共享内存分块
循环展开
寄存器优化
14
归约操作优化
并行归约
Warp Shuffle
原子操作
15
直方图计算
原子操作
共享内存
多通道
16
卷积操作实现
im2col
共享内存缓存
cuDNN对比
17
排序算法
奇偶排序
双调排序
基数排序
Thrust
18
图算法
BFS
SSSP
PageRank
19
动态并行
子网格启动
递归算法
注意事项
20
CUDA与OpenCL对比
编程模型
性能对比
选型建议
21
GPU与CPU协同设计
异构架构
任务划分
流水线
22
CUDA与Python集成
PyCUDA
CuPy
Numba CUDA
23
深度学习框架GPU加速
TensorFlow/PyTorch
混合精度
多GPU
24
GPU虚拟化与云计算
虚拟化
Docker
K8s调度
云实例
25
多GPU编程
NCCL
点对点
全局同步
26
CUDA统一内存
统一内存模型
页面迁移
性能优化
27
GPU硬件架构深入
SM架构
Warp调度
指令流水线
28
CUDA图 (Graph)
图捕获
依赖管理
动态图
29
GPU加速实战项目 (一)
N体模拟
算法设计
优化
30
GPU加速实战项目 (二)
YOLO目标检测
模型部署
性能调优