4、缓存命中率基础：什么是纹理缓存命中率、命中率对性能的影响（带宽/延迟/功耗）、Profiling工具（RenderDoc/NSight/PIX）
4.1 纹理缓存命中率——到底是个啥？
好，咱们直接切入正题。纹理缓存命中率，说白了就是：GPU去纹理缓存里拿数据，到底能不能拿到想要的那一份。
你想想看，GPU要渲染一个像素，得去采样纹理。这个纹理数据存在显存里，但显存离计算单元太远了。所以GPU搞了个小容量的缓存，把最近用过的纹素（texel）存起来。下次再要同样的纹素，直接从缓存拿，不用跑一趟显存。
命中率就是：
命中次数 / (命中次数 + 缺失次数)
举个例子。假设你的纹理采样请求有100次，其中80次在缓存里找到了，20次要跑到显存去拿。那命中率就是80%。
我个人习惯把命中率分成三个档：
- 高命中率（>90%）：性能表现很好，基本不愁带宽
- 中等命中率（70%-90%）：还能接受，但得留意瓶颈
- 低命中率（<70%）：赶紧优化吧，显存带宽快被吃光了
核心要点：纹理缓存命中率直接决定了你的渲染管线是「快车道」还是「堵车模式」。
4.2 命中率对性能的影响——带宽、延迟、功耗
这里我分三个维度来讲。嗯，这三个维度其实是互相绑定的，但咱们拆开看更清楚。
4.2.1 带宽
纹理缓存命中率低，最直接的影响就是带宽爆炸。
我在项目中遇到过这样一个案例：一个手游场景，地面用了超大尺寸的纹理，而且mipmap层级没用好。结果纹理缓存命中率掉到了40%左右。每次采样都要从显存读数据，带宽直接被吃满，帧率从60fps掉到了20fps。
你想想看，显存带宽是有限的。假设你的GPU有200GB/s的带宽，纹理采样占了150GB/s，那其他操作（比如顶点处理、帧缓冲写入）就只能抢剩下的50GB/s。能不卡吗？
具体来说：
- 命中率高：带宽消耗 ≈ 纹理请求数 × 缓存读取成本（极低）
- 命中率低：带宽消耗 ≈ 纹理请求数 × 显存读取成本（高出一个数量级）
4.2.2 延迟
延迟这块，我经常跟团队说一句话：缓存命中是纳秒级，缓存缺失是微秒级。
为什么？因为从缓存读数据，大概几个时钟周期就搞定了。但从显存读，要走PCIe总线（如果是独立显卡）或者系统总线（如果是集成显卡），再加上显存本身的访问延迟，轻松上百个时钟周期。
我曾经调试过一个粒子系统，每个粒子都要采样一张噪声纹理。因为粒子位置随机，纹理访问模式完全无规律，缓存命中率惨不忍睹。结果就是GPU的纹理单元大部分时间都在「等数据」，ALU（算术逻辑单元）闲着没事干。
这就是典型的延迟隐藏失败。GPU本来靠大量线程并行来隐藏延迟，但如果每个线程都在等纹理数据，那并行也救不了你。
4.2.3 功耗
功耗这块，很多人容易忽略。但我告诉你，纹理缓存缺失是GPU发热的元凶之一。
为什么？因为访问显存比访问缓存耗电得多。显存接口需要驱动高速信号，还要经过较长的物理走线，功耗是缓存访问的10倍以上。
我记得有一次做移动端优化，发现手机发烫严重。用工具一测，纹理缓存命中率只有55%。优化了纹理布局和mipmap之后，命中率提到了92%，手机温度直接降了5度。嗯，这个数据我记得很清楚。
| 指标 | 缓存命中 | 缓存缺失 |
|---|---|---|
| 带宽消耗 | 极低 | 高（10-100倍） |
| 访问延迟 | 几个时钟周期 | 数百个时钟周期 |
| 功耗 | 低 | 高（5-10倍） |
避坑指南：我曾经见过一个项目，为了省纹理内存，把所有纹理都压缩成BC1格式。结果因为压缩纹理的随机访问效率低，缓存命中率反而下降了。优化不是越压缩越好，得看实际访问模式。
4.3 Profiling工具——RenderDoc、NSight、PIX
光说不练假把式。咱们得用工具来看缓存命中率。我常用的三个工具：RenderDoc、NVIDIA Nsight、Microsoft PIX。
4.3.1 RenderDoc
RenderDoc是我个人最常用的工具。开源、免费、跨平台，而且对纹理采样的分析做得不错。
怎么用？
- 抓一帧数据
- 找到Texture Viewer面板
- 查看每个纹理的Cache Miss Rate（缓存缺失率）
RenderDoc会显示每个纹理的采样次数、命中次数、缺失次数。我一般先看缺失率最高的纹理，那通常就是性能瓶颈。
// RenderDoc中看到的示例数据
Texture: terrain_diffuse.dds
Sampler Count: 1,245,678
Cache Hits: 1,102,345
Cache Misses: 143,333
Miss Rate: 11.5% // 这个还行，但还能优化
小技巧：在RenderDoc里，你可以用Pixel History功能，查看某个像素的纹理采样路径。我曾经用这个功能发现了一个bug——某个shader里重复采样了同一张纹理，白白浪费了缓存。
4.3.2 NVIDIA Nsight
Nsight是NVIDIA家的工具，功能更强大，但只支持NVIDIA显卡。
我最常用的是Nsight Graphics里的GPU Trace功能。它能给出非常详细的纹理缓存性能数据：
- L1 Texture Cache Hit Rate：一级纹理缓存命中率
- L2 Texture Cache Hit Rate：二级纹理缓存命中率
- Texture Unit Utilization：纹理单元利用率
我记得有一次调试一个PC游戏，发现L1缓存命中率只有30%，但L2缓存命中率有85%。这说明纹理访问有局部性，但L1缓存太小了，装不下工作集。解决方案是调整纹理分块大小，让L1缓存能装下更多数据。
// Nsight GPU Trace 输出示例
L1 Texture Cache: Hit Rate 32.4% // 偏低
L2 Texture Cache: Hit Rate 87.1% // 还行
Texture Unit: Busy 78.3% // 纹理单元很忙
4.3.3 Microsoft PIX
PIX是DirectX的官方调试工具。如果你做Windows平台开发，这个工具是标配。
PIX的GPU Capture功能可以分析纹理缓存行为。它有个很实用的Texture Sampler Feedback功能，能告诉你每个纹理的采样模式——是顺序访问还是随机访问。
我一般这样用PIX：
- 抓帧后，打开Pipeline视图
- 找到Texture Sampler阶段
- 查看Cache Efficiency指标
PIX还会给出优化建议。比如它会说：「这个纹理的mipmap层级使用不当，建议生成完整的mipmap链。」
总结一下三个工具的选择：
- 跨平台调试：用RenderDoc
- NVIDIA显卡深度分析：用Nsight
- DirectX项目：用PIX
4.4 实战建议——怎么开始调优？
好，讲了这么多理论，咱们来点实际的。如果你现在就想开始优化纹理缓存命中率，我建议按这个步骤来：
- 先用工具抓一帧，看看当前命中率是多少
- 找到命中率最低的纹理，分析它的采样模式
- 检查mipmap：是不是用了完整的mipmap链？
- 检查纹理布局：是不是用了swizzle或者tile布局？
- 优化shader：能不能减少纹理采样次数？能不能合并采样？
我曾经在一个项目中，只做了第3步——生成完整的mipmap链，就把命中率从60%提到了85%。效果立竿见影。
嗯，这一章的内容就到这。下一章咱们会深入讲纹理缓存的工作原理，包括L1/L2缓存的结构、缓存行大小、关联度这些细节。到时候你会更清楚为什么某些优化手段有效。