GPU生态标准与平台概述实战

📚 共计 30 章节
01
GPU发展简史
从图形加速到通用计算,GPU架构演进的关键节点(固定管线→可编程着色器→统一架构→CUDA核心)
架构演进里程碑
02
GPU核心架构解析
流式多处理器(SM)、CUDA核心、内存层次结构、线程束(Warp)调度机制
SMWarp内存层次
03
GPU编程模型
SIMT执行模型、线程层次结构(Grid/Block/Thread)、内存访问模式与合并访问
SIMT线程层次合并访问
04
主流GPU生态全景
NVIDIA CUDA、AMD ROCm、Intel oneAPI、Apple Metal、Khronos Vulkan/OpenCL
CUDAROCmoneAPI
05
CUDA编程实战
CUDA程序结构、核函数、内存管理、流与事件、Nsight性能分析
核函数Nsight内存管理
06
ROCm平台实战
HIP编程模型、ROCm软件栈、CUDA迁移策略、性能调优工具
HIPROCm迁移
07
oneAPI与SYCL
统一编程模型、SYCL标准、DPC++编译器、跨平台代码示例
SYCLDPC++跨平台
08
GPU虚拟化与云原生
GPU直通、vGPU、MIG、Kubernetes GPU调度
vGPUMIGK8s
09
深度学习框架GPU加速
PyTorch/TensorFlow GPU后端、混合精度训练、分布式训练(NCCL/RCCL)
PyTorchNCCL混合精度
10
GPU集群管理与调度
Slurm作业调度、DCGM监控、多用户隔离策略
SlurmDCGM隔离
11
GPU性能基准测试
MLPerf、SPEC、Rodinia;FLOPS/带宽/延迟;瓶颈分析
MLPerf基准分析
12
GPU内存优化
内存带宽利用、共享内存优化、寄存器压力、合并访问
共享内存合并访问寄存器
13
GPU并行模式
Map/Reduce/Scan、Stencil、矩阵乘法优化、FFT加速
ReduceStencilFFT
14
GPU调试与错误处理
CUDA错误检查、cuda-gdb、cuda-memcheck、异步错误处理
cuda-gdbmemcheck调试
15
GPU安全与隔离
进程隔离、内存保护、侧信道防范、安全容器
隔离安全容器侧信道
16
GPU与CPU异构计算
HSA、统一内存、任务调度、负载均衡
HSA统一内存异构
17
GPU在HPC中的应用
分子动力学(GROMACS)、气象模拟(WRF)、计算流体力学(OpenFOAM)
GROMACSWRFOpenFOAM
18
GPU在AI推理中的应用
TensorRT、ONNX Runtime、模型量化、Triton部署
TensorRTONNXTriton
19
GPU在图形渲染中的应用
光线追踪管线、DLSS、Vulkan光线追踪、实时渲染优化
光线追踪DLSSVulkan
20
GPU在视频编解码中的应用
NVENC/NVDEC、FFmpeg GPU加速、视频分析管线
NVENCFFmpeg硬件编解码
21
GPU在数据库加速中的应用
GPU加速SQL查询、OmniSci/BlazingSQL、数据仓库加速
SQL加速OmniSci数据仓库
22
GPU在科学计算中的应用
CUDA Math库、cuBLAS/cuFFT/cuSPARSE、多GPU协同
cuBLAScuFFT多GPU
23
GPU在金融计算中的应用
蒙特卡洛模拟、风险计算、高频交易GPU加速
蒙特卡洛高频交易风险
24
GPU在自动驾驶中的应用
端到端感知模型、多传感器融合、实时性保障
感知融合实时
25
GPU在医疗影像中的应用
CT/MRI重建加速、医学图像分割、病理分析GPU加速
CT重建分割病理
26
GPU在区块链与Web3中的应用
GPU挖矿原理、零知识证明加速、去中心化计算
挖矿零知识证明Web3
27
GPU在边缘计算中的应用
Jetson设备、模型压缩与部署、低功耗优化
Jetson边缘低功耗
28
GPU生态标准与互操作性
OpenCL、Vulkan计算、SYCL跨平台、HIP代码迁移
OpenCLVulkanHIP
29
GPU未来趋势
Chiplet、存算一体、光互连、量子计算与GPU融合
Chiplet存算一体量子
30
GPU生态选型决策
场景需求分析、TCO评估、供应商锁定风险、混合部署策略
TCO选型混合部署