IB网络 & NVLink 协同实战
🎯
30章 · 从入门到集群
⚡ 点击卡片跳转对应章节 · 友好配色 · 紧凑目录
1
IB与NVLink概述
InfiniBand网络 · NVLink · AI集群角色定位
2
硬件拓扑基础
NVSwitch拓扑 · IB互联 · 胖树与轨道优化
3
IB网卡与驱动安装
ConnectX网卡 · MLNX_OFED · 固件升级
4
NVLink与NVSwitch配置
nvidia-smi · NVSwitch监控
5
IB子网管理器(OpenSM)
安装启动 · PKey分区 · 多子网
6
IB网络IPoIB配置
datagram/connected · IP分配 · 调优
7
RDMA与GPUDirect RDMA
RDMA原理 · GPUDirect配置 · 数据通路验证
8
NCCL库基础
安装版本 · 环境变量 · nccl-tests
9
NCCL与IB网络集成
NCCL_IB_DISABLE · GDR_LEVEL · QPS
10
NCCL与NVLink集成
NVLINK_TOPO · 拓扑感知 · TOPO_DUMP
11
协同工作模式一
纯NVLink域内 · IB跨节点 · 混合数据流
12
协同工作模式二
Ring/Tree算法 · ALGO/PROTO调优
13
网络性能测试
ib_write_bw · nv_peer_mem · AllReduce
14
常见问题一
NVLink降速 · Error排查 · 硬件故障
15
常见问题二
IB丢包重传 · PFC死锁 · ECN拥塞控制
16
常见问题三
NCCL初始化失败 · WARN日志 · 超时重置
17
监控与告警
Prometheus · Exporter · Grafana仪表盘
18
多租户环境配置
SR-IOV · GPU分区MIG · NCCL隔离
19
固件与驱动一致性管理
集群固件同步 · 兼容性矩阵 · 滚动升级
20
性能基准测试方法论
MLPerf · 自定义脚本 · 可重复性
21
高级调优一
NUMA亲和性 · CPU频率 · BIOS设置
22
高级调优二
MTU流控 · 动态/静态连接 · 自适应路由
23
高级调优三
NCCL SHARP · In-Network Computing
24
大规模集群案例一
256节点DGX SuperPOD · 训练吞吐
25
大规模集群案例二
HPC+AI混合 · Lustre+IB · 数据加载
26
故障恢复与高可用
IB冗余路径 · NVLink故障切换 · 断点续训
27
安全配置
IPsec over IB · 分区访问 · GDR安全隔离
28
未来趋势
NVLink 5.0 · CX-8 · CXL · 超大规模架构
29
综合实验一
4节点8卡 · IB+NVLink · AllReduce瓶颈分析
30
综合实验二
Ansible自动化 · 监控集成 · 性能报告