第2章:Mellanox/NVIDIA网卡产品线介绍
聊到InfiniBand网卡,绕不开的就是Mellanox——现在叫NVIDIA Networking了。我入行那会儿,Mellanox还是独立公司,当时大家选卡基本就是看ConnectX系列。这么多年下来,产品线已经铺得很开了。今天我就带大家捋一遍,从ConnectX-3到ConnectX-8,看看它们各自什么定位、能干什么、现在还值不值得买。
2.1 ConnectX-3:老当益壮的入门级选手
ConnectX-3是2012年左右的产品,支持FDR(56Gbps)。说实话,现在看它确实老了。但我在一些实验室和中小型集群里,还是经常见到它的身影。为什么?便宜、稳定、够用。
核心规格:
- 接口速率:FDR 56Gbps
- PCIe 3.0 x8
- 支持RoCE v1/v2
- 不支持NVMe over Fabrics
我个人习惯把ConnectX-3叫做“入门级训练卡”。如果你只是做小规模MPI测试,或者跑一些对带宽不敏感的应用,它完全能胜任。但要注意,它不支持很多新特性,比如GPUDirect RDMA。嗯,这里要提醒一下,如果你打算用它搭配现代GPU做AI训练,那基本是跑不动的。
避坑指南:我曾经帮一个客户排查性能问题,他们用ConnectX-3跑深度学习,结果发现通信延迟比预期高了好几倍。最后定位到是网卡不支持GPUDirect,数据走了CPU中转。所以,新项目就别考虑它了。
2.2 ConnectX-4:EDR时代的过渡产品
ConnectX-4支持EDR(100Gbps),是2015年发布的。它算是承上启下的产品——比ConnectX-3快了一倍,但又没有ConnectX-5那么成熟。我在一些HPC集群里见过它,但说实话,市场占有率不算高。
| 特性 | ConnectX-4 | ConnectX-4 Lx |
|---|---|---|
| 速率 | EDR 100Gbps | 25/50Gbps |
| PCIe | 3.0 x16 | 3.0 x8 |
| 典型场景 | HPC、存储 | 企业级以太网 |
ConnectX-4有个变种叫ConnectX-4 Lx,它其实是主打以太网的。你想想看,如果只是做25G以太网,它性价比还不错。但如果是InfiniBand场景,我个人建议直接跳过ConnectX-4,上ConnectX-5会更省心。
2.3 ConnectX-5:一代经典,至今仍在服役
ConnectX-5是2017年发布的,支持HDR100(100Gbps)和EDR(100Gbps)。为什么说它是经典?因为它在性能和价格之间找到了很好的平衡点。我在很多数据中心里都见过它,包括一些金融行业的低延迟交易系统。
我的经验:ConnectX-5的固件生态非常成熟。我做过很多次固件升级,基本没出过问题。而且它支持GPUDirect RDMA,搭配V100、A100这些GPU跑AI训练,效果很不错。
它的生命周期状态现在是“成熟期”,但NVIDIA已经宣布它进入“长期支持”阶段。说白了,就是不会再出新功能了,但安全补丁和关键bug修复还会持续。如果你手头有ConnectX-5,放心用,再撑两三年没问题。
2.4 ConnectX-6:HDR时代的性能担当
ConnectX-6支持HDR(200Gbps),是2019年发布的。它最大的亮点是单端口200Gbps,双端口就是400Gbps。我记得第一次拿到ConnectX-6的样卡时,被它的散热片尺寸吓了一跳——比前代大了不少,说明功耗也上去了。
- 速率:HDR 200Gbps
- PCIe:4.0 x16
- 关键特性:支持NVMe over Fabrics、GPUDirect RDMA、自适应路由
- 典型场景:AI训练、高性能存储、超算中心
ConnectX-6有个小兄弟叫ConnectX-6 Dx,它其实是面向以太网和智能网卡场景的。如果你做InfiniBand,直接选ConnectX-6就行。我个人建议,新项目如果预算允许,ConnectX-6是起步配置。
2.5 ConnectX-7:NDR时代的旗舰产品
ConnectX-7是2021年发布的,支持NDR(400Gbps)。它代表了当前InfiniBand网卡的最高水平。说实话,我第一次看到400Gbps这个数字时,心里想的是“这得配什么样的交换机才能喂饱它?”
核心亮点:
- 单端口NDR 400Gbps,双端口800Gbps
- PCIe 5.0 x16
- 支持In-Network Computing(网内计算)
- 支持SHARP v3(集合通信加速)
ConnectX-7的生命周期状态是“活跃期”,NVIDIA还在持续更新固件和驱动。我在一些顶级超算项目里见过它,比如那些跑千卡甚至万卡集群的。如果你做的是大规模AI训练,ConnectX-7基本是标配了。
注意:ConnectX-7对散热要求很高。我曾经帮一个客户部署,结果发现机箱风道设计不合理,网卡温度飙到90度以上。后来加了独立散热模块才解决。所以,上ConnectX-7之前,先看看你的服务器散热能不能扛得住。
2.6 ConnectX-8:未来已来
ConnectX-8是2023年发布的,支持NDR 800Gbps。说实话,我还没在实际项目中大规模部署过它,因为目前配套的交换机还不多。但它的规格已经出来了,我简单列一下:
| 参数 | ConnectX-8 |
|---|---|
| 速率 | NDR 800Gbps |
| PCIe | 6.0 x16 |
| 延迟 | 低于0.5微秒 |
| 新特性 | 支持CXL、内存池化 |
ConnectX-8目前处于“早期采用”阶段。我个人建议,除非你是做前沿研究或者有特殊需求,否则先观望。等生态成熟了再入手,省得当小白鼠。
2.7 如何选择?我的建议
说了这么多,到底怎么选?我根据经验总结了一个简单的决策树:
- 预算有限,做小规模测试:ConnectX-3(二手市场淘,几百块一张)
- 企业级应用,追求稳定:ConnectX-5(成熟、便宜、够用)
- AI训练,中等规模:ConnectX-6(200Gbps,性价比高)
- 大规模超算,顶级性能:ConnectX-7(400Gbps,当前主流)
- 前沿研究,不差钱:ConnectX-8(800Gbps,未来方向)
你想想看,选网卡其实跟选车一样——不是越贵越好,而是适合你的场景才最好。我见过有人用ConnectX-7跑小模型,结果性能过剩,浪费钱。也见过有人用ConnectX-3跑千卡集群,结果网络成了瓶颈,天天报错。所以,搞清楚自己的需求,再下手。
最后提醒一句:不管选哪款,固件升级和兼容性管理一定要跟上。下一章我会专门讲固件升级的实操方法,到时候咱们再细聊。