IB 网络故障排查与诊断
30 章 · 实战
英伟达 InfiniBand 课程
1
IB网络基础
InfiniBand架构
分层模型
IB vs 以太网
HCA/交换机/线缆
2
IB网络拓扑
Fat-Tree
DragonFly+
Torus
拓扑与故障
3
IB网络协议
数据包格式
SM工作原理
SA服务
RC/UC/UD/RD
4
IB网络配置
子网配置
Partition
QoS
自适应路由
5
IB网络监控
ibstat
ibstatus
ibv_devinfo
perfquery
SM日志
6
IB网络性能测试
ib_write_bw
ib_read_bw
ib_send_bw
ib_atomic_bw
ib_write_lat
7
IB网络故障分类
物理层故障
链路层故障
网络层故障
传输层故障
8
物理层故障排查
光模块DDM
线缆FEC
LinkUp/Down
信号完整性
9
链路层故障排查
CRC错误
链路协商
FEC配置
重传统计
10
网络层故障排查
路由表检查
LID分配
PathRecord
多路径负载
11
传输层故障排查
RC连接状态
重传超时
丢包率
拥塞控制CC
12
SM故障排查
主备切换
配置错误
SM日志
SM-交换机通信
13
分区(Partition)故障排查
P_Key配置
成员检查
分区间通信
0x7FFF陷阱
14
QoS故障排查
SL配置
Virtual Lane
流量整形
QoS计数器
15
自适应路由(AR)故障排查
AR策略
端口组检查
负载均衡
与静态路由冲突
16
HCA故障排查
驱动状态
固件版本
端口属性
内存注册错误
17
交换机故障排查
固件升级
端口配置
温度/电源
日志分析
18
线缆故障排查
光缆/铜缆
长度限制
弯曲半径
连接器清洁
19
性能下降故障排查
带宽利用率
延迟异常
拥塞点定位
热点端口
20
丢包故障排查
丢包原因分类
定位方法
计数器/抓包
应用影响
21
重传故障排查
重传原因
重传率计算
性能影响
优化策略
22
超时故障排查
超时参数
原因分析
链路拥塞
RC连接影响
23
拥塞故障排查
ECN标记
CC计数器
DCQCN/Timely
缓解策略
24
多路径故障排查
多路径配置
路径切换
对称性验证
负载均衡
25
GPU Direct RDMA故障排查
显存注册
GPU-HCA亲和性
NVLink/NVSwitch
GDR驱动
26
存储网络故障排查
NVMe over Fabrics
存储目标端
性能瓶颈
协议兼容性
27
集群网络故障排查
集群规模影响
节点间延迟
作业调度与资源
网络隔离
28
IB网络日志分析
SM日志
交换机日志
HCA日志
dmesg/syslog
29
IB网络诊断工具
ibdiagnet
ibnetdiscover
ibping
ibroute/ibaddr
30
IB网络故障案例实战
链路抖动
分区错误
性能下降
故障复盘