01
GPU概述
GPU发展简史 · GPU与CPU的区别 · GPU在AI与图形学中的应用
基础概念
02
GPU硬件架构
流处理器（SM/CU）详解 · 显存层次结构（HBM/GDDR） · PCIe与NVLink互联
硬件架构
03
GPU计算模型
CUDA编程模型基础 · 线程层次结构（Grid/Block/Warp） · 内存模型（Global/Shared/Local）
CUDA编程
04
GPU调度基础
任务调度单元（GPC/TPC） · Warp调度机制 · Occupancy（占用率）概念
调度核心
05
GPU资源监控
NVIDIA-SMI工具使用 · nvidia-ml-py库 · 实时监控与日志采集
监控工具
06
GPU内存管理
显存分配与释放 · 内存池技术 · 统一内存（Unified Memory）
内存优化
07
GPU多进程调度
MPS（Multi-Process Service）原理 · MPS配置与使用 · MPS隔离性
多进程MPS
08
GPU虚拟化技术
vGPU原理 · GPU直通（Passthrough） · MIG（Multi-Instance GPU）
虚拟化MIG
09
GPU容器化
Docker GPU支持 · Kubernetes GPU调度 · NVIDIA Container Toolkit
容器K8s
10
GPU集群调度框架
Slurm GPU调度 · Kubernetes GPU扩展 · YARN GPU支持
集群调度
11
GPU任务队列
任务优先级 · 抢占式调度 · 公平调度策略
队列优先级
12
GPU性能分析
Nsight Systems使用 · Nsight Compute使用 · 性能瓶颈定位
性能分析
13
GPU内核优化
内存访问模式优化 · Bank Conflict避免 · 指令级并行
优化内核
14
GPU流与并发
CUDA Stream概念 · 多流并发 · 异步操作
并发Stream
15
GPU事件与同步
Event机制 · 同步原语 · 跨流依赖管理
同步事件
16
GPU动态并行
Dynamic Parallelism原理 · 子内核启动 · 递归计算
动态并行
17
GPU多卡通信
NCCL库基础 · AllReduce/AllGather · Ring算法
多卡NCCL
18
GPU拓扑感知
NVLink拓扑 · PCIe拓扑 · NUMA亲和性
拓扑NUMA
19
GPU功耗管理
功耗墙问题 · 动态电压频率调整（DVFS） · 功耗监控
功耗DVFS
20
GPU散热与可靠性
温度监控 · 降频策略 · ECC与容错
散热可靠性
21
GPU资源隔离
cgroups限制 · 显存隔离 · 算力隔离
隔离cgroups
22
GPU配额管理
公平份额 · 资源预留 · 弹性伸缩
配额弹性
23
GPU调度策略
FIFO · 优先级队列 · Gang Scheduling
策略Gang
24
GPU混部技术
在线/离线任务混部 · 干扰检测 · 资源超分
混部超分
25
GPU故障管理
故障检测 · 故障恢复 · 故障预测
故障高可用
26
GPU资源计量
使用率统计 · 计费模型 · 配额审计
计量计费
27
GPU调度系统设计
调度器架构 · 状态管理 · 决策引擎
系统设计架构
28
GPU资源编排
Terraform GPU资源 · Ansible GPU配置 · 自动化部署
编排IaC
29
GPU调度最佳实践
典型场景配置 · 性能调优案例 · 常见问题排查
实践案例
30
GPU未来趋势
CXL互联 · 存算一体 · 异构计算演进
前沿趋势