第1章
加速器概述
什么是硬件加速器 · 为什么需要加速器 · GPU/FPGA/ASIC/TPU分类 · 数据中心位置
基础概念
第2章
编程模型基础
编程模型定义 · 与硬件关系 · CUDA/OpenCL/OneAPI/ROCm对比
对比理论
第3章
CUDA编程模型 (上)
CUDA架构 · 线程层次 Grid/Block/Warp · 内存层次 Global/Shared/Local/Register
GPUNVIDIA
第4章
CUDA编程模型 (下)
核函数编写 · cudaMalloc/cudaMemcpy · __syncthreads · 流与事件
同步内存
第5章
OpenCL编程模型
平台模型 · 执行模型 · 内存模型 · 上下文与命令队列 · 内核编译
跨平台标准
第6章
OneAPI编程模型
SYCL标准 · DPC++编译器 · 统一编程语言 · 跨架构移植 · Data Parallel C++
IntelSYCL
第7章
ROCm编程模型
ROCm生态 · HIP编程 · 与CUDA异同 · 工具链 · 移植CUDA到HIP
AMDHIP
第8章
FPGA编程模型 (HLS)
高层次综合 · Vivado HLS流程 · C/C++到RTL · 流水线并行 · 接口综合
FPGAHLS
第9章
ASIC编程模型 (DSL)
领域特定语言 · Halide/TVM/TensorComprehensions · Chisel/FIRRTL · ASIC流程
ASICDSL
第10章
TPU编程模型
TPU架构 · XLA编译器 · TensorFlow集成 · PJRT接口 · TPU Pod拓扑
TPUGoogle
第11章
内存访问优化
合并访问 · 内存对齐 · Bank冲突 · 共享内存优化 · 寄存器溢出 · 缓存友好
优化内存
第12章
计算优化
指令级并行 · 流水线隐藏延迟 · 向量化 · 张量核心 · 混合精度
计算ILP
第13章
线程束与工作组优化
线程束发散 · 调度 · 工作组大小 · 占用率 · 资源平衡
线程束占用率
第14章
数据流与流水线
生产者-消费者 · 异步拷贝 · 双缓冲 · 流水线深度 · 重叠计算与传输
流水线异步
第15章
同步与通信
全局同步 · 块内同步 · 原子操作 · 归约/扫描 · 栅栏与屏障
同步通信
第16章
稀疏计算模型
CSR/COO/ELL格式 · 稀疏矩阵向量乘 · 稀疏注意力 · 结构化稀疏
稀疏存储
第17章
图计算加速
GAS/Vertex-Centric模型 · 图划分 · Gunrock/CuGraph · 动态图
图计算GPU
第18章
深度学习加速
Im2Col/Winograd · Tiling/Vectorize · 算子融合 · AutoTVM/Ansor
DL自动调优
第19章
推理优化
INT8/FP16量化 · 剪枝 · 知识蒸馏 · TensorRT/OpenVINO · 推理引擎
推理量化
第20章
多GPU编程
NCCL/RCCL · 数据并行 · 模型并行 · 流水线并行 · 混合并行
多GPU并行
第21章
异构计算框架
任务调度 · 统一内存 · 异构内存HMM · 计算卸载 · 协同执行
异构框架
第22章
性能分析与调优
Nsight/rocProf/VTune · 性能计数器 · Roofline模型 · Amdahl定律
调优Profiling
第23章
调试与验证
cuda-gdb/rocgdb · cuda-memcheck/ComputeSanitizer · 确定性重放 · 数值精度
调试验证
第24章
安全与隔离
vGPU/MIG · 安全内存 · TEE加速器 · 多租户隔离 · 可信计算
安全虚拟化
第25章
容器化与编排
nvidia-docker · Kubernetes设备插件 · GPU共享调度 · 弹性伸缩 · 资源配额
容器K8s
第26章
云原生加速器
Serverless GPU · 函数计算 · FaaS与GPU · 冷启动优化 · 按需分配
云原生Serverless
第27章
边缘加速器
边缘计算场景 · 边缘GPU/FPGA · 模型压缩 · TinyML · 端侧推理
边缘TinyML
第28章
量子加速器
量子计算基础 · 量子门与电路 · Qiskit/Cirq/QuEST · 量子-经典混合
量子前沿
第29章
未来趋势
CXL内存语义 · 光互连 · 存算一体 · 可重构计算 · AI编译器演进
趋势CXL
第30章
综合案例
端到端加速器应用设计：需求分析 · 硬件选型 · 编程实现 · 性能调优 · 部署运维
实战综合