1. GPU缓存一致性概述：为什么需要缓存一致性？GPU与CPU一致性模型的差异
1.1 为什么需要缓存一致性？
先问大家一个问题：你写了一段代码，CPU把数据写进了缓存，GPU也从缓存读数据——结果两边看到的值不一样。这代码还能跑对吗？
说白了，缓存一致性要解决的就是这个问题。多个处理器核心共享同一块内存，每个核心都有自己的缓存。如果其中一个改了数据，其他核心必须知道这个变化。否则，程序就会看到「过期」的数据。
核心矛盾：缓存是为了提速，但多个缓存副本之间可能不一致。一致性协议就是用来协调这些副本的「交通规则」。
我在项目中遇到过这样一个案例：一个图像处理管线，CPU负责准备数据，GPU负责渲染。结果渲染出来的画面总是有几帧是花的。查了两天才发现，是CPU写完了数据，但GPU读到的还是缓存里的旧值。嗯，这就是典型的一致性问题。
你想想看，如果没有一致性协议，会出现什么情况？
- 数据竞争：两个核心同时写同一个地址，谁最后写算谁的？
- 可见性问题：一个核心改了数据，另一个核心什么时候能看到？
- 原子性破坏：一个读-改-写操作被其他核心打断，中间状态暴露了。
所以，缓存一致性不是「锦上添花」，而是「必须要有」。尤其是现代GPU动辄几千个核心，没有一致性协议，整个系统就是一团乱麻。
1.2 GPU与CPU一致性模型的差异
很多人以为GPU的一致性模型就是CPU那一套的「放大版」。其实不是。两者的设计哲学完全不同。
| 对比维度 | CPU一致性模型 | GPU一致性模型 |
|---|---|---|
| 核心数量 | 几个到几十个 | 几百到几千个 |
| 缓存规模 | 大（MB级L2/L3） | 小（KB级L1/L2） |
| 一致性粒度 | 缓存行（64B） | 缓存行或更粗粒度 |
| 协议类型 | MESI/MOESI（窥探式） | 目录式 + 宽松一致性 |
| 同步开销 | 低延迟、高带宽 | 高延迟、但可容忍 |
| 编程模型 | 强一致性（x86） | 弱一致性（需显式同步） |
1.3 为什么GPU不能用CPU那套？
我个人习惯把这个问题拆成三个层面来看：
第一，规模问题。 CPU的窥探式协议（比如MESI）依赖总线广播。几十个核心还行，几千个核心？总线早就被广播消息淹没了。我曾经算过一笔账：一个256核的GPU，如果用MESI，光一致性消息就能吃掉30%的总线带宽。这谁受得了？
第二，延迟容忍度不同。 CPU对延迟极其敏感——一个缓存未命中可能让流水线停几十个周期。但GPU呢？它靠大量线程切换来隐藏延迟。一个线程等数据，换另一个线程上。所以GPU可以接受更「懒」的一致性协议，比如延迟更新。
第三，访问模式不同。 CPU的访存模式是「随机+少线程」，GPU是「流式+多线程」。GPU更倾向于批量处理数据，一次读一大块，处理完再写回去。这种模式下，一致性协议可以做得更粗放。
避坑指南：我曾经在设计一个GPU一致性协议时，想当然地用了CPU的MESI方案。结果仿真跑起来，死锁一个接一个。后来才意识到，GPU的线程调度和CPU完全不同，协议状态机必须重新设计。嗯，这个教训让我多花了两个月。
1.4 GPU一致性模型的核心特点
说白了，GPU的一致性模型是「宽松一致性」的典型代表。它不像x86那样保证「写后读」的顺序，而是把同步的责任交给了程序员。
具体来说，GPU一致性模型有这几个特点：
- 弱序（Weak Ordering）： 内存访问可以重排，只要不违反显式的同步点。
- 显式同步： 使用barrier、fence等指令来强制一致性。
- 作用域一致性： 只在同一个线程块（thread block）内保证一致性，跨块需要全局同步。
- 宽松的写传播： 一个核心的写操作，其他核心可能不会立即看到。
你想想看，这种设计的好处是什么？
性能。GPU可以自由地重排内存访问，最大化带宽利用率。代价就是程序员要更小心——忘了加同步，bug就来了。
1.5 一个简单的例子
假设我们有一个GPU kernel，两个线程块分别处理数据：
// 线程块0：写数据
shared_data[0] = 42;
__threadfence(); // 确保写操作对其他线程可见
// 线程块1：读数据
int val = shared_data[0]; // 如果没有fence，可能读到旧值在CPU上，你写一个变量，另一个线程读，通常不需要显式fence（x86保证写后读顺序）。但在GPU上，没有fence，线程块1可能永远看不到42。
注意： 不要以为GPU和CPU一样「自动帮你搞定一致性」。GPU的设计哲学是「你告诉我什么时候需要同步，我来优化性能」。所以，写GPU程序时，脑子里要时刻绷着一根弦：这个数据其他核心能看到吗？
1.6 我的个人经验
我记得刚接触GPU一致性协议时，总觉得它「不靠谱」——怎么连最基本的写后读都不保证？后来做多了才明白，这是取舍。CPU追求「易用性」，GPU追求「性能」。你想想看，几千个核心如果都按CPU那套强一致性来，性能得掉多少？
我在项目中遇到过最头疼的问题，就是跨线程块的数据依赖。一个线程块算完中间结果，另一个线程块要用。如果没有正确的同步，结果就是时对时错。嗯，这种bug最难查，因为它不是每次都复现。
所以我的建议是：能用局部数据就别用全局数据，能用同步就别依赖「巧合」。 一致性协议不是万能的，它只是给了你一个工具，用得好不好，还得看你自己。
1.7 小结
这一章我们聊了：
- 为什么需要缓存一致性——多个核心共享内存，必须协调。
- GPU和CPU一致性模型的差异——规模、延迟容忍度、访问模式都不同。
- GPU采用宽松一致性模型——性能优先，程序员负责同步。
下一章，我们会深入GPU缓存一致性协议的具体实现，看看目录式协议是怎么工作的。到时候我会拿一个实际项目中的协议状态机来拆解，保证让你看明白。