01
GPU计算概述
GPU vs CPU架构差异 · 并行计算优势 · SIMT/SIMD模型简介
架构并行
02
GPU硬件架构基础
流多处理器SM · CUDA核心 · 线程束Warp · 共享/全局内存层次
硬件内存
03
GPU编译器概述
编译器作用 · 与CPU编译器区别 · NVCC/ROCm/OpenCL编译器
编译器工具链
04
GPU编程模型与编译前端
CUDA C/C++语法 · kernel定义 · <<<grid,block>>> · host/device分离
CUDA编程模型
05
GPU编译器前端
词法/语法分析特殊性 · AST构建 · 符号表管理
前端AST
06
GPU编译器中间表示IR
LLVM IR · NVVM IR · SPIR-V · IR优化潜力
IRLLVM
07
GPU编译器优化(一)
常量折叠/传播 · 死代码消除 · 循环不变外提 · 函数内联
优化循环
08
GPU编译器优化(二)
内存访问合并 · 共享内存优化 · bank conflict避免
内存合并
09
GPU编译器优化(三)
线程束级优化 · 指令级并行ILP · 分支发散优化
WarpILP
10
GPU编译器优化(四)
循环展开/向量化 · 软件流水线 · 寄存器分配策略
循环寄存器
11
GPU编译器后端概述
IR到目标代码流程 · 指令选择/调度 · 寄存器分配
后端指令
12
GPU指令集架构ISA基础
PTX指令集 · SASS汇编 · 指令编码格式
ISAPTX
13
指令选择与模式匹配
GPU指令选择算法 · 树覆盖/动态规划 · PTX生成
指令选择模式
14
指令调度
VLIW/超标量 · 调度约束 · 列表调度算法
调度VLIW
15
寄存器分配
GPU寄存器文件 · 图着色/线性扫描 · 溢出处理
寄存器分配
16
代码生成
IR→PTX代码生成 · PTX→SASS汇编 · cubin/ELF
代码生成二进制
17
GPU内存层次与代码生成
全局/共享/本地/常量/纹理内存 · 地址生成与访问模式
内存层次地址
18
线程与块映射
grid→SM映射 · block调度 · warp调度 · occupancy优化
调度Occupancy
19
GPU编译器中的并行性挖掘
自动并行化 · 依赖分析 · 循环并行化 · reduction优化
并行依赖
20
GPU编译器中的同步与通信
__syncthreads()实现 · 内存栅栏 · 原子操作编译支持
同步原子
21
调试与性能分析工具
cuda-gdb · Nsight Compute/Systems · 编译器诊断信息
调试性能
22
错误处理与异常
编译/运行时错误 · 内存错误检测 · cuda-memcheck
错误检测
23
数学库与内建函数
数学函数优化 · __sinf/__expf · 快速数学模式
数学内建
24
纹理与表面内存
纹理对象编译 · 坐标计算 · 边界处理模式
纹理表面
25
动态并行 Dynamic Parallelism
子kernel启动编译支持 · 递归与嵌套
动态并行嵌套
26
统一内存 Unified Memory
UM编译支持 · 页面迁移 · prefetching
统一内存迁移
27
多GPU编译
跨GPU代码生成 · MPI+CUDA · NVLink多设备通信
多GPUMPI
28
深度学习加速
Tensor Core编译 · 矩阵乘法自动生成 · 混合精度编译
Tensor Core混合精度
29
安全与隔离
GPU虚拟化 · 安全内存分区 · 编译时安全检查
安全虚拟化
30
GPU编译器前沿与未来
AI驱动优化 · 可重构GPU编译 · 量子计算交叉
前沿AI