第二章:硬件识别与选型

做IB网卡这行,我见过太多人栽在硬件选型上。你想想看,花了几十万买设备,结果因为线缆不匹配或者固件版本不对,性能死活上不去。嗯,今天咱们就把这块掰开揉碎了讲清楚。

2.1 NVIDIA ConnectX 系列型号速览

NVIDIA的IB网卡,目前主流就是ConnectX系列。我个人习惯把它们分成三代:

系列 速率 接口类型 典型应用场景
ConnectX-5 100Gb/s (EDR) PCIe 3.0 x16 中小型集群、存储网络
ConnectX-6 200Gb/s (HDR) PCIe 4.0 x16 AI训练、高性能计算
ConnectX-7 400Gb/s (NDR) PCIe 5.0 x16 超大规模数据中心

我在项目中遇到过最尴尬的事:有人买了ConnectX-7,结果插在PCIe 3.0的槽上。网卡跑在400G,但总线带宽只有100G。说白了,这就是拿法拉利跑乡间小路。

核心原则:网卡速率必须 ≤ PCIe总线带宽。ConnectX-6需要至少PCIe 3.0 x16或PCIe 4.0 x8。

2.2 线缆与光模块选择

线缆这块,我建议你记住三个关键词:距离、速率、介质。

2.2.1 铜缆 vs 光模块

  • 铜缆(DAC):适合3米以内。便宜、即插即用。但别想跑远。
  • 有源光缆(AOC):3-30米。比铜缆轻,抗干扰好。
  • 光模块+光纤:30米以上。性能最好,但成本最高。

我曾经帮一个客户排查问题,他们用了10米的铜缆跑200G HDR。结果链路一直不稳定,丢包率高达0.1%。换成了AOC之后,问题立刻消失。嗯,这里要注意:铜缆超过5米,信号衰减就很明显了。

2.2.2 光模块兼容性

NVIDIA的网卡对光模块有严格的兼容性要求。我个人的经验是:

  • 优先用NVIDIA原厂模块(MCP系列)
  • 其次选经过认证的第三方(如Finisar、II-VI)
  • 千万别用杂牌模块——我见过烧端口的

避坑指南:我曾经遇到过客户用了一款便宜的光模块,结果网卡死活认不到。查了半天,发现是模块的EEPROM里没有写NVIDIA的兼容信息。后来刷了固件才解决。所以,买模块时一定要问清楚:是否支持ConnectX系列?

2.3 固件版本确认

固件这东西,很多人不重视。但说实话,固件版本不对,性能能差30%。

2.3.1 查看当前固件版本

ibstat 或者 mlxconfig 都能看。我个人习惯用这个命令:

# 查看网卡固件版本
ibstat | grep -i firmware

# 或者用MFT工具
flint -d /dev/mst/mt4123_pciconf0 query

输出大概长这样:

Firmware version: 20.35.1014
PSID: MT_0000000010

2.3.2 固件版本选择策略

我建议遵循「稳定优先」原则:

  • 生产环境:用NVIDIA官网推荐的「长期支持版」(LTS)
  • 测试环境:可以用最新版,尝鲜新功能
  • 千万别在生产环境用Beta版——我吃过亏

小技巧:NVIDIA每个季度会发布一次固件更新。我习惯在每个季度末,检查一下官网的Release Notes。重点关注两个地方:Bug修复列表、已知问题列表。

2.4 硬件识别实战

拿到一块网卡,怎么确认它是什么型号?我一般三步走:

  1. 看标签:网卡侧面有型号贴纸,比如「MCX653105A-HDAT」
  2. 查系统:lspci | grep Mellanox 查看PCI设备
  3. 读固件:ibstat 确认速率和端口状态

举个例子,我最近调试的一台机器:

# lspci | grep Mellanox
04:00.0 InfiniBand: Mellanox Technologies MT4123 [ConnectX-6]

看到「MT4123」就知道是ConnectX-6了。然后查一下固件版本,确认是不是最新的。

2.5 知识体系总览

下面这张图,是我自己总结的硬件选型决策流程。你照着走,基本不会出错:

IB网卡硬件选型决策流程 确定目标速率 100G? 200G? 400G? ConnectX-5 ConnectX-6 ConnectX-7 选择线缆/光模块 选择线缆/光模块 选择线缆/光模块 确认固件版本 → 下载最新LTS版 → 刷写固件 部署完成

这张图的核心逻辑很简单:先定速率,再选网卡,然后配线缆,最后确认固件。每一步都不能跳。

总结一下:硬件选型不是买最贵的,而是买最匹配的。你想想看,一个200G的网络,配了100G的线缆,那不就是白花钱吗?我见过太多这样的案例了。

好了,硬件识别和选型这块就聊到这儿。下一节咱们会讲驱动安装,到时候我会分享一些我踩过的坑,保证让你少走弯路。


公众号:蓝海资料掘金营,微信deep3321