硬件架构基础：GPU计算单元详解、显存与带宽、PCIe与NVLink互联、GPU拓扑结构
各位同学，咱们今天聊点硬核的。GPU风控系统，说白了就是跟硬件赛跑。你算法再牛，模型再准，如果连硬件底层的脾气都摸不透，那监控系统就是个摆设。我这些年踩过的坑，十有八九都跟硬件特性没吃透有关。
这一章，咱们把GPU的骨架拆开看看。不搞虚的，全是实战中必须拿捏的死死的知识点。
GPU计算单元：SM与CUDA Core的真相
很多人以为GPU就是一堆小CPU拼在一起。其实不是。GPU的核心是SM（Streaming Multiprocessor，流式多处理器）。你可以把SM想象成一个独立的小工厂，里面有一堆工人——也就是CUDA Core。
我习惯把SM比作一个「作战小组」。每个小组有自己的调度器、寄存器文件、共享内存。小组内部干活效率极高，但小组之间通信就慢一些。这个特性，在风控场景下特别重要。
关键点：风控模型推理时，如果能把一个batch的数据塞进同一个SM的共享内存里处理，延迟能降低一个数量级。我曾经优化过一个反欺诈模型，就是靠这个思路把P99延迟从15ms压到了3ms。
具体到NVIDIA的架构，从Volta到Hopper，SM内部结构一直在变。但核心逻辑没变：
- CUDA Core：执行算术运算的单元。别被数字唬住，几千个Core不是都能同时干活的。
- Tensor Core：专门干矩阵乘法的。风控模型里全连接层多，这玩意儿是神器。
- Warp调度器：32个线程一组，叫一个Warp。调度器负责喂指令给这些线程。
嗯，这里要注意。Warp是GPU执行的最小单位。如果一个Warp里有线程分支（if-else），那性能直接崩。我见过有人写风控特征工程代码，一个Warp里32个线程走了32条不同的路径...那效率，惨不忍睹。
显存与带宽：你的数据到底有多快？
显存，就是GPU自己的内存。风控系统里，模型参数、特征数据、中间结果全放这儿。
显存带宽这个指标，我建议你盯死了。它决定了你每秒能往GPU里灌多少数据。H100的HBM3带宽能到3.35TB/s，听着吓人，但跟PCIe带宽一比，你就知道瓶颈在哪了。
| 显存类型 | 典型带宽 | 常见GPU |
|---|---|---|
| GDDR6 | ~600 GB/s | RTX 3090, A10 |
| HBM2e | ~1.6 TB/s | A100 |
| HBM3 | ~3.35 TB/s | H100 |
为什么会这样？因为显存带宽直接决定了你的计算密度。说白了，就是算得再快，数据喂不进去也是白搭。我在做实时风控时，经常遇到「计算利用率低」的问题。一查，全是显存带宽打满了，计算单元在干等数据。
实战技巧：监控显存带宽利用率。如果超过80%，而计算利用率不到50%，说明你的模型是「带宽瓶颈型」。这时候该考虑算子融合或者量化了。
显存容量也别忽视。风控模型动不动几百MB甚至几个GB。你想想看，如果显存不够，模型参数得频繁换入换出，那延迟直接爆炸。我建议留出至少20%的显存余量给中间结果和临时变量。
PCIe与NVLink：GPU之间怎么聊天？
单卡搞不定的事，得上多卡。那卡跟卡之间怎么通信？两条路：PCIe和NVLink。
PCIe是通用接口，所有设备都能用。但带宽有限。PCIe 4.0 x16单向带宽约16 GB/s，PCIe 5.0翻倍到32 GB/s。听着还行？但跟显存带宽一比，差了两个数量级。
NVLink是NVIDIA自家的高速互联。A100上NVLink 3.0单向带宽能到300 GB/s，H100的NVLink 4.0更是飙到450 GB/s。这速度，基本能跟显存带宽掰手腕了。
我遇到过最坑的事：一个团队买了8张A100，用PCIe交换机连起来做分布式推理。结果发现卡间通信成了瓶颈，整体吞吐还不如4张卡用NVLink直连。嗯，拓扑结构没搞对，钱白花了。
避坑指南：我曾经在部署实时风控集群时，忽略了NVLink的拓扑限制。NVLink通常只在同一张主板上的GPU之间全互联。跨主板的GPU通信，还得走PCIe。所以，多卡场景下，尽量把需要频繁通信的模型并行放在同一NVLink域内。
GPU拓扑结构：你的卡是怎么连的？
拓扑结构，就是GPU之间的物理连接方式。常见的就几种：
- 全互联（NVSwitch）：所有GPU两两直连。延迟最低，带宽最高。DGX系列就是这种。
- 环形/混合立方体：GPU连成环或立方体。通信需要跳转，延迟会高一些。
- PCIe树形：通过PCIe Switch连接。带宽共享，容易打架。
你想想看，如果你的风控系统需要做模型并行，把一个大模型切到多张卡上。每层计算完都要做all-reduce同步。这时候，全互联拓扑的优势就出来了——通信延迟几乎可以忽略。
但如果只是数据并行（每张卡跑一份完整模型，只同步梯度），那PCIe树形也够用。我见过不少团队，明明只是数据并行，却非要上NVSwitch，纯属浪费。
说到拓扑，就不得不提nvidia-smi topo -m这个命令。我每次部署新机器，第一件事就是跑它。它能告诉你每张卡跟谁近、跟谁远。比如：
# 查看GPU拓扑
nvidia-smi topo -m
# 输出示例（简化）
GPU0 GPU1 GPU2 GPU3
GPU0 X NV1 NV1 PHB
GPU1 NV1 X PHB NV1
GPU2 NV1 PHB X NV1
GPU3 PHB NV1 NV1 X
# NV1 = NVLink连接
# PHB = 通过PCIe连接（跨CPU）
你看，GPU0和GPU1是NVLink直连，但GPU0和GPU3就得走PCIe。如果你的模型并行方案把需要频繁通信的层放在GPU0和GPU3上，那性能肯定拉胯。
我的习惯：拿到新机器，先画拓扑图。然后根据拓扑来分配模型切分策略。NVLink域内的卡做模型并行，跨域的卡做数据并行。这样能最大化利用带宽。
最后说一句。GPU硬件架构这东西，光看书没用。你得亲手跑几个benchmark，看看实际带宽和延迟。我每次调优风控系统，都会先跑一遍bandwidthTest和p2pBandwidthLatencyTest，把硬件的底牌摸清楚。嗯，知己知彼，百战不殆。