4、算力评估指标：峰值算力（TOPS/TFLOPS）的定义与测量、实际算力与利用率的区别、算力密度与能效比（TOPS/W）
4.1 峰值算力：纸面数据的真相
聊到芯片算力，大家第一反应肯定是TOPS或者TFLOPS。这两个东西，说白了就是芯片的「纸面功夫」。我个人习惯把峰值算力理解为「理论上的极限速度」——就像一辆跑车，厂家说它能跑400km/h，但实际路况、油量、轮胎磨损都会影响真实表现。
TOPS（Tera Operations Per Second）主要用在整数运算场景，比如AI推理。1 TOPS代表芯片每秒能完成一万亿次整数操作。而TFLOPS（Tera Floating-point Operations Per Second）则针对浮点运算，训练场景更看重这个。
怎么测量呢？我见过不少团队直接拿数据手册上的数字用，结果项目上线就翻车。其实峰值算力的测量有标准套路：
- 理论峰值 = 核心数 × 频率 × 每周期操作数
- 比如一个NPU有128个MAC单元，频率1GHz，每个MAC每周期做2次操作（乘加算一次），那理论峰值就是 128 × 1G × 2 = 256 GOPS
重要提醒：峰值算力是「理想实验室环境」下的数据。实际项目中，内存带宽、数据搬运、控制流开销都会让这个数字大打折扣。
我曾经在一个边缘AI项目里，供应商标称芯片有4 TOPS算力。结果我们跑MobileNet时，实际帧率连理论值的30%都不到。后来一查，问题出在数据搬运上——芯片的DDR带宽根本喂不饱那么多计算单元。
4.2 实际算力与利用率：别被数字骗了
实际算力，就是你跑真实模型时芯片能发挥出来的水平。而利用率，就是实际算力除以峰值算力的比值。嗯，这里要注意：利用率才是衡量芯片「干活效率」的关键指标。
为什么会有差距？你想想看，芯片内部有计算单元、存储单元、控制单元。数据从DDR搬到SRAM，再从SRAM搬到计算阵列，每一步都有延迟。我见过最夸张的情况，某款芯片的MAC利用率只有12%——因为它的数据流设计太糟糕了。
影响利用率的几个关键因素：
- 计算密度：模型中的卷积层、全连接层占比。层越厚，计算越密集，利用率越高
- 数据复用性：权重能不能被多个输入复用？能的话，利用率就上去了
- 内存带宽：带宽不够，计算单元就得「等数据」，利用率自然低
- 算子粒度：小算子太多，芯片频繁切换上下文，利用率会掉得厉害
我的经验：评估芯片时，别只看峰值算力。拿一个你实际要跑的模型，在芯片上跑一下，看实际帧率和功耗。这才是真功夫。
举个例子，某款芯片标称8 TOPS，跑ResNet-50时实际算力只有2.5 TOPS，利用率约31%。但另一款标称4 TOPS的芯片，同样模型跑出2.2 TOPS，利用率55%。你说哪个更实用？
4.3 算力密度与能效比：TOPS/W才是硬道理
算力密度，指的是单位面积芯片能提供多少算力（TOPS/mm²）。这个指标对芯片设计很重要，但对系统集成商来说，更关心的是能效比——每瓦功耗能换来多少算力（TOPS/W）。
我做过一个对比测试，两款芯片的峰值算力差不多，但能效比差了3倍。一款是7nm工艺，另一款是28nm。结果7nm芯片在同样功耗下，实际跑模型的速度快了2.5倍。这就是工艺红利。
能效比的计算很简单：
能效比（TOPS/W）= 实际算力（TOPS） / 平均功耗（W）但要注意，这里的功耗要测整板功耗，不只是核心功耗。我见过有人只报核心功耗，结果系统散热设计完全跟不上，芯片降频后性能惨不忍睹。
| 芯片型号 | 峰值算力 | 实际算力 | 功耗 | 能效比 |
|---|---|---|---|---|
| 芯片A | 10 TOPS | 3.2 TOPS | 5W | 0.64 TOPS/W |
| 芯片B | 8 TOPS | 4.5 TOPS | 4W | 1.125 TOPS/W |
| 芯片C | 15 TOPS | 6.8 TOPS | 8W | 0.85 TOPS/W |
你看，芯片B虽然峰值算力最低，但能效比最高。在边缘设备这种功耗受限的场景里，芯片B反而是最优解。
避坑指南：我曾经选型时只看峰值算力和价格，结果产品做出来散热压不住，芯片频繁降频，用户体验极差。后来学乖了，一定要求供应商提供「典型负载下的功耗数据」，而不是「空闲功耗」或「极限功耗」。
4.4 知识体系：算力评估的核心逻辑
下面这张图，是我自己总结的算力评估框架。你看完应该能明白这几个指标之间的关系。
这张图的核心逻辑是：峰值算力是起点，但实际算力才是终点。而利用率和能效比，是衡量芯片「好不好用」的两个关键维度。我每次做芯片选型，都会把这三层指标拉通来看，缺一不可。
一个小技巧：评估芯片时，先看能效比，再看利用率，最后才看峰值算力。这个顺序能帮你快速过滤掉那些「纸面好看、实际拉胯」的芯片。
好了，算力评估这块就聊到这儿。记住一句话：峰值算力决定上限，实际算力决定下限，能效比决定生死。尤其是在功耗敏感的AI芯片市场，TOPS/W这个指标，比单纯的TOPS重要得多。