01
异构计算概述
定义与演进 · 摩尔定律终结 · GPU/FPGA/ASIC/DPU对比
基础平台
02
GPU架构与编程模型
CUDA核心 · SM/Warp调度 · 内存层次 · Kernel/Grid/Block
GPUCUDA
03
CUDA编程基础
Host/Device · cudaMalloc/cudaMemcpy · Kernel启动 · 向量加法
入门实战
04
CUDA线程模型与索引
线程层次 · 多维网格 · Warp发散 · Occupancy优化
线程性能
05
共享内存与同步
共享内存声明 · Bank Conflict · __syncthreads · 矩阵转置
优化同步
06
CUDA流与并发
Stream/Event · 异步传输 · Kernel重叠 · 多流并发
并发流水线
07
CUDA内存优化
全局内存合并 · 常量/纹理内存 · Unified Memory · Pinned
内存带宽
08
CUDA性能分析工具
Nsight Systems/Compute · Profiling指标 · 瓶颈定位
工具调优
09
OpenCL基础
平台/执行模型 · Context/Queue · Device/Kernel · 向量加法
标准跨平台
10
OpenCL内存模型
Global/Constant/Local/Private · Buffer/Image · 内存映射
内存OpenCL
11
FPGA架构与HLS
LUT/DSP/BRAM · HLS流程 · Vivado HLS · 流水线并行
FPGAHLS
12
FPGA优化技术
PIPELINE/UNROLL · 数组分割 · Dataflow · 定点数精度
优化流水线
13
SYCL与DPC++
SYCL标准 · DPC++编程 · USM · 队列/处理器 · 矩阵乘法
SYCLDPC++
14
异构计算框架
OpenACC · HIP · OneAPI · 框架选型策略
框架可移植
15
并行计算模式
Map/Reduce/Scan · Stencil · Histogram · GPU高效实现
模式算法
16
深度学习加速
Im2Col+GEMM · Winograd · cuDNN · Tensor Core · 混合精度
AIcuDNN
17
图计算加速
BFS · PageRank · GNN推理 · 图划分与负载均衡
图并行
18
科学计算加速
N体 · FFT · SpMV · 分子动力学模拟
科学HPC
19
内存墙与数据搬运
PCIe瓶颈 · NVLink/NVSwitch · 统一内存 · 预取与缓存
内存墙互联
20
负载均衡与任务调度
静态/动态调度 · Work Stealing · 任务图 · MPS
调度负载
21
功耗与散热优化
DVFS · 功耗感知调度 · 绿色计算 · TDP权衡
功耗散热
22
多GPU编程
P2P · NCCL · 模型/数据并行 · AllReduce优化
多GPUNCCL
23
CPU-GPU异构协同
任务划分 · 异步流水线 · 混合精度 · 异构内存
协同CPU
24
Roofline模型与性能分析
Roofline原理 · 计算强度 · Arithmetic Intensity · 优化策略
分析模型
25
编译器优化与自动并行化
Polyhedral模型 · 自动向量化 · OpenMP Target · 指导优化
编译器自动
26
容器化与部署
Docker/Singularity · NVIDIA Container Toolkit · K8s · MLOps
容器部署
27
边缘异构计算
GPU/TPU/NPU · 量化剪枝 · TensorRT · Jetson优化
边缘推理
28
量子计算与异构融合
量子基础 · 量子门 · 经典-量子混合 · Qiskit/Cirq
量子前沿
29
异构计算基准测试
Rodinia/PolyBench/SHOC · 性能可移植性 · 能耗基准
基准评测
30
未来趋势与前沿
CXL · Chiplet · 光计算/存算一体 · AI驱动编译器
趋势前沿