01
异构计算概述
什么是异构计算、为什么需要异构计算、核心挑战：数据搬运延迟
概念延迟
02
硬件架构基础
CPU · GPU · FPGA · ASIC · NPU 特点与适用场景
硬件加速器
03
内存层次结构
Cache · HBM · GDDR · DDR · 共享内存 · 本地内存
存储带宽
04
PCIe总线详解
Gen3/4/5/6速率 · 拓扑结构 · DMA传输机制
总线DMA
05
NVLink与CXL互联
NVLink拓扑 · CXL.mem / CXL.cache / CXL.io 协议
互联一致性
06
RDMA技术原理
InfiniBand · RoCEv2 · iWARP · 零拷贝思想
网络零拷贝
07
GPUDirect技术
GPUDirect P2P · RDMA · GDS (GPUDirect Storage)
GPU直通
08
统一内存与页迁移
CUDA Unified Memory · HMM (异构内存管理)
内存迁移
09
数据序列化与反序列化
Protobuf · FlatBuffers · Cap'n Proto 异构选择
序列化效率
10
异步传输模型
CUDA Stream · Event同步 · 回调 · 多流并发
异步并发
11
流水线与双缓冲
Pipeline传输 · Double Buffering · Triple Buffering
流水线缓冲
12
零拷贝技术
mmap · dma-buf · ION · dmabuf与CUDA互操作
零拷贝互操作
13
GPU内核驱动与用户态驱动
UMD vs KMD · ioctl路径优化
驱动内核
14
CPU-GPU协同调度
任务划分 · 负载均衡 · 依赖图调度
调度协同
15
多GPU通信优化
Ring AllReduce · Tree AllReduce · NCCL原理
集合通信NCCL
16
FPGA与CPU低延迟通信
AXI总线 · QDMA · XDMA · OpenCL通道
FPGA低延迟
17
异构内存管理
NUMA感知 · 页着色 · 大页 (Huge Page) 配置
内存NUMA
18
延迟测量与Profiling
NVIDIA Nsight · Intel VTune · FPGA逻辑分析仪
性能分析
19
网络传输优化
TCP/IP卸载 · 内核旁路 (DPDK, XDP) · 用户态协议栈
网络DPDK
20
共享内存与消息传递
MPI · SHMEM · GASNet 在异构平台的应用
通信MPI
21
原子操作与锁优化
GPU原子操作 · CPU-GPU互斥锁 · 无锁队列设计
原子无锁
22
数据压缩与去重
LZ4 · Zstd · 硬件压缩引擎
压缩去重
23
持久化内存与异构
Intel Optane DC PMM · CXL-attached PMem · DAX
持久化PMem
24
边缘异构计算
Jetson · 树莓派+TPU · 延迟约束传输策略
边缘Jetson
25
分布式异构训练
PyTorch DDP · DeepSpeed · Horovod 通信优化
分布式训练
26
实时系统与确定性延迟
RTOS · PREEMPT_RT · GPU时间片管理
实时确定性
27
安全与隔离
IOMMU/SMMU · TEE · GPU虚拟化
安全隔离
28
性能建模与仿真
Roofline · LogP · gem5 / GPGPU-Sim
建模仿真
29
案例：自动驾驶感知管线
低延迟传输在自动驾驶感知中的应用
案例自动驾驶
30
案例：AI推理服务器
异构数据路径优化 · 推理加速
案例推理