4、标量指令与向量指令：标量ALU与向量ALU的区别，指令调度
好，咱们今天聊点硬核的。标量指令和向量指令，这俩概念你要是没搞透，写出来的Shader性能可能差一个数量级。我当年刚入行时，就吃过这个亏——以为GPU就是一堆核拼命算，结果调度器一塌糊涂，ALU利用率惨不忍睹。
说白了，标量ALU处理的是单个数据，向量ALU处理的是多个数据。但实际芯片里，事情远没这么简单。
4.1 标量ALU：单兵作战
标量ALU，就是处理单个整型或浮点数的运算单元。你写个 a = b + c，如果b和c都是标量，那就走标量ALU。
在GPU里，标量ALU通常用来处理：
- 地址计算（比如数组索引）
- 循环计数器
- 分支条件判断
- 线程ID计算
嗯，这里要注意：标量ALU虽然简单，但它往往是性能瓶颈。为什么？因为向量ALU可以并行算一堆数据，但标量ALU一次只能算一个。你想想看，如果整个Warp都在等一个标量结果，那向量ALU就得干等着。
关键点：标量ALU的延迟通常比向量ALU低（1-2个周期），但吞吐量也低。现代GPU里，标量ALU和向量ALU是独立运行的，可以并行执行。
4.2 向量ALU：群体作战
向量ALU，一次处理多个数据元素。比如一个4路浮点向量ALU，可以同时算 vec4 a = vec4 b + vec4 c。
我在项目中遇到过一个问题：某团队把所有的运算都写成标量形式，结果向量ALU闲着，标量ALU忙死。后来改成向量化写法，性能直接翻倍。
向量ALU的典型结构：
- SIMD宽度：4路、8路、16路不等
- 每个通道有自己的寄存器文件
- 共享控制逻辑和指令解码
- 支持Swizzle（通道重排）和Mask（掩码）
| 特性 | 标量ALU | 向量ALU |
|---|---|---|
| 数据宽度 | 1个元素 | N个元素（4/8/16） |
| 典型延迟 | 1-2周期 | 4-8周期 |
| 吞吐量 | 1 op/周期 | N ops/周期 |
| 用途 | 控制流、地址计算 | 大规模数据并行 |
| 寄存器压力 | 低 | 高（每个通道独立） |
4.3 指令调度：让ALU别闲着
调度，说白了就是决定哪条指令什么时候发给哪个ALU。GPU的调度器和CPU完全不同——CPU是乱序执行，GPU是顺序发射+多线程交错。
我习惯把GPU的调度策略分成三层：
- Warp调度：每个周期选一个Ready的Warp发射指令
- 指令级调度：在Warp内部，决定标量和向量指令的发射顺序
- 内存访问调度：Load/Store指令和ALU指令的交错
这里有个坑：我曾经以为只要Warp够多，延迟就能隐藏。但后来发现，如果标量指令和向量指令的依赖关系没处理好，调度器会卡住。
避坑指南：我曾经在写编译器时，把标量地址计算和向量Load指令排得太近，结果标量结果还没出来，向量Load就等着。后来强制在中间插几条无关的向量指令，问题解决。
4.4 标量与向量的协同调度
现代GPU的调度器，其实是个多发射架构。一个周期内，可以同时发射：
- 1条标量指令（给标量ALU）
- 1条向量指令（给向量ALU）
- 1条内存指令（给Load/Store单元）
你想想看，如果编译器能把这三类指令交错好，那ALU利用率就能接近100%。但现实往往很骨感——
举个例子：
// 不好的调度
s_add_u32 s0, s1, s2 // 标量加法，2周期
v_add_f32 v0, v1, v2 // 向量加法，等s0结果？不需要，但调度器可能乱序
// 好的调度
s_add_u32 s0, s1, s2 // 标量
v_add_f32 v0, v1, v2 // 向量，和标量无关，可以并行
s_load_dword s3, s0, 0 // 等s0结果，但此时向量还在算，不冲突
v_mul_f32 v3, v0, v4 // 等v0结果，但标量已经发射了嗯，这里要注意：不同GPU的调度器行为差异很大。NVIDIA的调度器偏向于优先发射就绪的指令，AMD的调度器更注重Warp间的公平性。
4.5 实战中的调度策略
我个人习惯，在写Shader或底层代码时，会遵循几条原则：
- 标量先行：把地址计算、循环条件等标量操作提前，别让向量ALU等着
- 向量连续：向量指令尽量连续发射，减少上下文切换开销
- 内存交错：Load指令和ALU指令交替发射，隐藏延迟
警告：别迷信编译器！我见过太多案例，编译器生成的代码里标量和向量指令混在一起，导致调度器频繁切换Warp。有时候手动调整一下指令顺序，性能能提升20%以上。
4.6 知识体系总览
下面这张图，是我梳理的标量指令与向量指令的核心逻辑。你看一眼，基本就明白整个调度流程了。
这张图里，你注意看三个队列是并行的。调度器每个周期从三个队列里各取一条指令发射。但实际硬件里，如果某个队列空了，调度器会跳过它，继续发射其他队列的指令。
说白了，调度的核心就是让三个执行单元都别闲着。标量ALU算地址的时候，向量ALU可以算数据，Load/Store单元可以搬数据。三者并行，才是GPU性能最大化的关键。
个人经验：我调试过一款移动GPU，它的调度器有个奇葩特性——如果标量指令和向量指令有数据依赖，它会自动插入NOP。后来我们在编译器里做了指令重排，把依赖链打散，性能提升了15%。所以，了解你手头硬件的调度器特性，比什么都重要。
公众号:蓝海资料掘金营，微信deep3321