GPU内存管理与性能调优

📘 30章 · 实战 v1.0
第01章
CUDA核心与SM 内存层次结构 GPU/CPU协同
第02章
全局内存共享内存寄存器 本地内存常量内存纹理内存
第03章
合并与非合并访问对齐要求事务优化
第04章
Bank冲突原理避免冲突策略动态共享内存
第05章
寄存器压力与spilling占用率平衡__launch_bounds__
第06章
常量缓存机制纹理边界处理性能场景
第07章
带宽计算公式bandwidthTest实际vs理论
第08章
cudaMalloc/cudaFree固定内存统一内存(UM)
第09章
cudaMemcpy异步流重叠拷贝零拷贝内存
第10章
UM工作原理页面迁移cudaMemAdvise
第11章
流创建与销毁同步机制多流并发
第12章
CUDA事件精确计时内核执行时间
第13章
时间线分析CPU/GPU追踪识别瓶颈
第14章
内核分析器吞吐量分析优化建议
第15章
占用率公式影响因素block/grid选择
第16章
Warp执行模型发散与优化Shuffle指令
第17章
全局原子操作共享内存原子自定义锁
第18章
cuBLAS基础cuFFT入门性能对比
第19章
cudaMemPool性能优势多流共享池
第20章
CUDA回调异步错误处理CUDA Graphs
第21章
Graph创建与实例化动态图更新与重放
第22章
点对点通信多GPU内存管理负载均衡
第23章
安装与配置AllReduce/Broadcast多节点通信
第24章
cuda-memcheckAddressSanitizer常见错误模式
第25章
矩阵乘法优化朴素到极致效果对比
第26章
训练内存占用梯度检查点混合精度训练
第27章
TensorRT内存动态形状内存复用
第28章
printf调试断点单步GDB for CUDA
第29章
Amdahl定律Roofline模型优化工作流
第30章
图像处理管线分析到部署性能报告