🚀 CUDA 编程
从零到模型部署
📚 30 章 · 完整目录
01
CUDA入门
GPU架构
GPU架构简介 · CUDA发展史 · 应用场景 · 环境搭建
01.html
02
Hello World
第一个程序
主机与设备 · nvcc编译器 · CUDA基本结构
02.html
03
线程层次结构
Grid/Block/Thread
线程ID计算 · 一/二/三维线程网格
03.html
04
CUDA内存模型
多层次存储
全局/共享/寄存器/本地/常量/纹理内存
04.html
05
内存管理
cudaMalloc/cudaMemcpy
统一内存 · 分配释放最佳实践
05.html
06
核函数编写基础
__global__
修饰符 · 核函数限制 · void返回
06.html
07
向量加法实战
CPU vs GPU
性能对比 · 带宽计算
07.html
08
矩阵乘法基础
朴素GPU
CPU实现 · 性能瓶颈分析
08.html
09
共享内存优化
Bank Conflict
声明使用 · Padding技术
09.html
10
矩阵乘法优化
Tiling
共享内存优化 · 性能调优
10.html
11
归约操作
并行归约
Warp级归约 · 避免Bank Conflict
11.html
12
原子操作
atomicAdd
直方图计算 · 性能注意事项
12.html
13
流与并发
CUDA Stream
默认/非默认流 · 异步操作 · 同步
13.html
14
事件与计时
CUDA Event
精确计时 · 性能分析基础
14.html
15
CUDA错误处理
检查宏
cudaGetLastError · 调试技巧
15.html
16
Nsight性能分析
Nsight Systems
Nsight Compute · 性能瓶颈定位
16.html
17
CUDA库简介
cuBLAS/cuFFT
cuRAND · Thrust基本使用
17.html
18
cuBLAS实战
矩阵乘法
cuBLAS Handle · 性能对比
18.html
19
Thrust库
sort/reduce
Thrust向量 · 与原始CUDA互操作
19.html
20
CUDA与Python
PyCUDA/Numba
Python调用CUDA核函数
20.html
21
Numba CUDA实战
核函数
性能对比 · 与PyTorch集成
21.html
22
深度学习中的CUDA
Tensor Core
混合精度训练 · cuDNN概述
22.html
23
PyTorch CUDA编程
自定义扩展
torch.utils.cpp_extension · 前向反向
23.html
24
模型部署概述
ONNX/TensorRT
部署流程概览
24.html
25
ONNX模型导出
PyTorch→ONNX
算子支持 · 动态/静态轴
25.html
26
TensorRT基础
Builder/Network
安装 · Engine概念 · 模型序列化
26.html
27
TensorRT优化
FP16/INT8
动态形状 · 层融合 · 内存优化
27.html
28
TensorRT C++部署
C++ API
加载Engine · 推理循环 · 性能测试
28.html
29
TensorRT Python部署
Python API
与PyTorch集成 · 端到端推理
29.html
30
综合实战
PyTorch→TensorRT
完整流程 · 性能调优 · 常见问题排查
30.html