🚀 英伟达硬件加速器开发实战
30章 · 从入门到综合实战
⭐
友好色系
01
GPU计算基础与CUDA入门
基础
GPU架构概览
CUDA编程模型
第一个CUDA程序
02
CUDA线程层次结构
核心
Grid/Block/Thread
线程索引计算
03
CUDA内存模型
存储
全局内存
共享内存
寄存器
本地/常量/纹理
04
CUDA流与事件
异步
异步操作
流调度
事件同步
性能分析
05
共享内存与同步
优化
共享内存声明
__syncthreads()
Bank Conflict
06
CUDA原子操作
并发
原子函数
全局原子操作
共享内存原子
07
CUDA性能优化策略
调优
内存合并访问
占用率优化
指令级并行
08
CUDA库入门
生态
cuBLAS
cuFFT
cuRAND
Thrust
09
Tensor Core编程
AI
WMMA API
mma.sync指令
混合精度训练
10
NVIDIA Nsight工具链
调试
Nsight Systems
Nsight Compute
Visual Profiler
11
CUDA动态并行
进阶
GPU端启动内核
嵌套执行
递归
12
CUDA统一内存
UM
UM原理
页面迁移
性能调优
13
多GPU编程
扩展
点对点通信
GPUDirect
多流多设备
14
CUDA图 (Graph)
调度
图捕获
图执行
图更新与重放
15
CUDA C++新特性
现代
CUDA 12.x新功能
cuda::std::par
协程支持
16
NVIDIA Jetson嵌入式
边缘
Jetson平台概述
JetPack SDK
边缘AI部署
17
TensorRT模型优化
推理
模型量化
层融合
动态形状
INT8/FP16
18
DeepStream SDK
视频
视频流分析
GStreamer插件
多路视频处理
19
NVIDIA Triton推理服务器
服务
模型管理
并发推理
动态批处理
20
cuDNN深度学习库
加速
卷积优化
RNN加速
注意力机制
21
NCCL多机通信
分布式
AllReduce
Ring算法
多节点训练
22
CUDA内核融合技术
编译
算子融合
JIT编译
NVRTC
23
GPU虚拟化与MIG
云
多实例GPU
vGPU
容器化部署
24
CUDA安全与调试
工具
cuda-gdb
cuda-memcheck
Compute Sanitizer
25
NVIDIA Merlin推荐系统
推荐
GPU加速特征工程
HugeCTR
NVTabular
26
RAPIDS数据科学
数据
cuDF
cuML
cuGraph
GPU加速数据处理
27
CUDA与Python互操作
互操作
PyCUDA
CuPy
Numba CUDA
28
GPU加速视频编解码
媒体
NVDEC/NVENC
FFmpeg集成
硬件转码
29
NVIDIA Omniverse与RTX
渲染
USD框架
路径追踪
实时渲染加速
30
综合实战：GPU加速AI推理系统
项目
从零构建
GPU加速
AI推理系统