异构计算下的GPU任务调度策略
📚 30章 · 从入门到前沿
01
异构计算概述
什么是异构计算
为什么需要异构计算
CPU与GPU架构差异
应用场景
02
GPU架构基础
GPU核心组成
流多处理器SM
线程束Warp
内存层次结构
计算能力
03
GPU编程模型
CUDA编程模型
主机与设备
内核函数Kernel
线程层次结构
04
GPU内存管理
全局内存
共享内存
寄存器/本地内存
常量/纹理内存
内存分配与释放
05
GPU任务调度基础
调度概念
吞吐量/延迟/公平性
负载不均
数据依赖/资源竞争
06
GPU流（Stream）调度
流的概念
默认流与非默认流
流并发执行
同步机制
流调度策略
07
GPU动态并行
动态并行概念
子内核启动
递归内核
应用场景
性能分析
08
GPU任务图调度
任务图概念
CUDA Graphs
图构建与执行
图调度优化
图调度应用
09
GPU多任务调度
多任务调度场景
时间片轮转
优先级调度
抢占式调度
多任务挑战
10
GPU负载均衡
负载不均问题
静态负载均衡
动态负载均衡
工作窃取
策略对比
11
GPU数据依赖调度
依赖类型
依赖分析
依赖驱动调度
依赖消除技术
12
GPU资源感知调度
资源类型
资源监控
资源感知策略
资源争用处理
13
GPU调度同步机制
全局同步
块同步/线程同步
原子操作
锁机制
同步开销分析
14
GPU调度通信优化
数据局部性
通信避免
通信与计算重叠
数据压缩
通信调度策略
15
GPU调度能耗管理
能耗模型
DVFS
能耗感知调度
绿色计算策略
16
GPU调度容错机制
故障类型
检查点与恢复
冗余执行
容错调度策略
17
GPU调度QoS保障
服务质量概念
QoS指标
QoS感知调度
SLA保障策略
18
GPU调度实时性保障
实时系统概念
截止时间驱动
速率单调/EDF
实时调度挑战
19
GPU调度公平性保障
公平性定义
公平性指标
公平调度算法CFS
公平性与性能权衡
20
GPU调度优先级反转
优先级反转问题
优先级继承协议
优先级天花板协议
反转避免
21
GPU调度死锁问题
死锁条件
死锁预防
死锁避免
死锁检测与恢复
22
GPU调度饥饿问题
饥饿原因
饥饿检测
饥饿避免策略
公平调度与饥饿
23
GPU调度缓存优化
缓存层次结构
缓存命中率
缓存感知调度
缓存分区/预取
24
GPU调度内存带宽优化
带宽瓶颈
内存访问模式
合并访问
内存事务优化
带宽感知调度
25
GPU调度指令级优化
指令流水线
指令级并行ILP
指令调度
分支发散处理
优化策略
26
GPU任务划分策略
任务粒度
划分原则
划分算法
划分与调度协同
27
GPU任务优先级策略
优先级定义
静态/动态优先级
优先级映射
优先级调度算法
28
GPU任务依赖图
依赖图构建
依赖图分析
依赖图调度
依赖图优化/应用
29
GPU任务迁移
迁移概念
迁移开销
迁移策略
迁移与负载均衡
数据局部性
30
GPU调度未来趋势
异构集成
存算一体
量子计算与GPU
AI驱动调度
调度自动化