📘 NVSHMEM 实战
多节点·多互连
🎯 30 章
🧩 友好色系
⚡ 集群部署
01
NVSHMEM 概述
什么是NVSHMEM
与SHMEM关系
核心优势
应用场景
02
硬件环境准备
GPU服务器选型
NVSwitch/NVLink
InfiniBand/RoCE
存储规划
03
软件环境准备
操作系统要求
NVIDIA驱动
CUDA Toolkit
Fabric Manager
04
NVSHMEM 软件栈
库结构
依赖关系
版本选择
CUDA兼容性
05
单节点安装
下载NVSHMEM
编译安装
环境变量
验证安装
06
多节点网络配置
IPoIB/RDMA
GPU Direct RDMA
网卡GPU亲和性
网络性能测试
07
NVSHMEM 通信模式
点对点通信
集合通信
对称内存
PE/Team概念
08
编译与链接
nvshmem_run/mpirun
编译选项
静态/动态库
Makefile示例
09
Hello World 实战
第一个程序
PE初始化/结束
数据交换
调试技巧
10
对称内存管理
分配与释放
访问模式
内存对齐
错误排查
11
点对点通信API
nvshmem_put/get
信号量同步
非阻塞通信
带宽测试
12
集合通信API
Barrier同步
Broadcast
Reduce规约
Alltoall
13
锁与原子操作
互斥锁
原子加/减/交换
CAS操作
分布式锁
14
Team与子通信域
Team创建管理
子通信域隔离
Team集合操作
动态调整
15
多节点部署架构
节点角色划分
管理/计算节点
作业调度集成
集群文件系统
16
SLURM 集成
SLURM配置NVSHMEM
任务分配策略
GPU资源绑定
作业脚本模板
17
MPI+NVSHMEM混合
初始化顺序
混合通信模式
数据一致性
性能优化
18
性能调优基础
带宽延迟测试
通信模式优化
内存访问模式
Profiling工具
19
NVIDIA Nsight Systems
Nsight安装
事件追踪
热点分析
瓶颈定位
20
常见问题排查
安装失败
运行时错误
通信超时
内存泄漏/版本
21
多节点拓扑感知
NVLink拓扑查询
GPU亲和性映射
通信路径优化
拓扑感知分配
22
RDMA网络调优
MTU设置
流控配置
拥塞控制
RoCE/IB选择
23
大规模集群部署
千卡架构
分级通信
故障容错
弹性扩展
24
容器化部署
Docker镜像
NVIDIA Container
Kubernetes集成
多节点通信
25
安全与权限
用户权限管理
GPU隔离
网络隔离
审计日志
26
监控与告警
GPU监控指标
网络监控
运行时状态
告警规则
27
备份与恢复
配置文件备份
环境快照
快速恢复
版本回退
28
案例实战1 · 矩阵乘法
分布式矩阵乘法
数据分片
通信计算重叠
性能对比
29
案例实战2 · 图计算
大规模图计算
图划分算法
NVSHMEM加速
扩展性测试
30
总结与展望
生态现状
未来趋势
学习资源
社区参与