第三章：嵌入式NPU架构详解：寒武纪MLU、地平线BPU、瑞芯微NPU、算力与能效比分析
各位同学，咱们今天来聊聊嵌入式NPU的几大主流架构。说实话，市面上NPU方案多得让人眼花缭乱，但真正在嵌入式领域站稳脚跟的，也就那么几家。我个人习惯把NPU分成三类：通用型、自动驾驶专用型、以及消费级SoC集成型。寒武纪MLU、地平线BPU、瑞芯微NPU，正好是这三类的典型代表。
3.1 寒武纪MLU：通用计算的“硬核”选手
寒武纪的MLU系列，最早是做AI加速卡出身的。它的架构设计思路，说白了就是“我什么都能算”。MLU的核心是一个叫做MLUv100/v200的指令集架构，支持INT8、INT16、FP16、FP32多种精度。
架构特点：
- 多核并行： 每个MLU芯片内部有多个计算核（比如MLU370有32个核），每个核又包含多个ALU单元。
- 灵活的数据流： 支持张量、向量、标量三种计算模式。你想想看，这意味着它既能跑卷积，也能跑全连接，还能处理控制流。
- 内存层次： 有L1/L2缓存，还有高带宽的HBM显存（高端型号）。
关键点： MLU的强项在于“通用性”。我在项目中遇到过用MLU跑YOLOv5和BERT的场景，切换起来非常平滑，不需要改太多代码。但代价就是功耗偏高，不适合电池供电的设备。
算力与能效比：
| 型号 | INT8算力(TOPS) | 功耗(W) | 能效比(TOPS/W) |
|---|---|---|---|
| MLU370-S4 | 256 | 75 | 3.41 |
| MLU270 | 128 | 70 | 1.83 |
嗯，这里要注意，MLU的能效比在高端型号上还不错，但和后面要讲的BPU、NPU比，还是有差距的。毕竟它要兼顾通用性，硬件上做了很多冗余设计。
3.2 地平线BPU：为自动驾驶“量身定制”
地平线的BPU（Brain Processing Unit），我最早接触是在征程2芯片上。它的设计哲学非常明确：为视觉感知而生。说白了，就是专门优化CNN（卷积神经网络）的推理。
架构特点：
- 脉动阵列： BPU内部采用类似Google TPU的脉动阵列结构，数据在计算单元间流水线式传递。这样做的好处是，卷积运算的访存开销大幅降低。
- 稀疏计算支持： 我记得征程5的BPU支持了权重稀疏和激活稀疏。这意味着，如果模型里有很多0，BPU可以直接跳过，省电又省时间。
- 专用指令集： 针对卷积、池化、激活函数等操作，有专门的硬件指令。你想想看，这比用通用ALU去模拟，效率高了多少？
避坑指南： 我曾经在征程3上部署过一个轻量级Transformer模型，结果发现BPU对Transformer的支持远不如CNN。后来查文档才知道，BPU的脉动阵列对矩阵乘法（Transformer的核心）优化不够，需要手动做算子融合。所以，如果你主要做NLP，BPU可能不是最优选。
算力与能效比：
| 型号 | INT8算力(TOPS) | 功耗(W) | 能效比(TOPS/W) |
|---|---|---|---|
| 征程5 | 128 | 30 | 4.27 |
| 征程3 | 5 | 2.5 | 2.0 |
看到没？征程5的能效比达到了4.27 TOPS/W，比MLU高出一截。这就是专用架构的优势——为了视觉任务，可以牺牲一些灵活性。
3.3 瑞芯微NPU：消费级SoC的“性价比之王”
瑞芯微的NPU，大家最熟悉的应该是RK3588里的那个。它和寒武纪、地平线最大的不同是：它是SoC的一部分。CPU、GPU、NPU、ISP全集成在一个芯片上，主打的就是一个“够用且便宜”。
架构特点：
- 三级流水线： 瑞芯微NPU内部采用“数据加载-计算-结果存储”的三级流水线。我个人习惯把它理解成一个“专用DMA+计算阵列”的组合。
- 共享内存： NPU和CPU/GPU共享系统内存（DDR），没有独立的显存。这样做的好处是成本低，坏处是带宽受限。
- 量化工具链： 瑞芯微提供了RKNN-Toolkit，支持从PyTorch/TensorFlow模型直接转成RKNN格式。我建议你重点关注它的量化校准功能，能显著提升精度。
注意： 瑞芯微NPU的INT8算力标称很高（比如RK3588标称6 TOPS），但实际跑模型时，由于内存带宽限制，往往只能达到标称值的60%-70%。我曾经在RK3588上跑MobileNetV3，实测吞吐量只有理论峰值的65%。所以，选型时别只看TOPS，要结合带宽一起看。
算力与能效比：
| 型号 | INT8算力(TOPS) | 功耗(W) | 能效比(TOPS/W) |
|---|---|---|---|
| RK3588 | 6 | 5 | 1.2 |
| RK3568 | 1 | 2 | 0.5 |
能效比看起来不高，对吧？但别忘了，RK3588的整颗SoC功耗才5W左右，而MLU370光NPU就75W了。在嵌入式场景下，系统级功耗往往比单纯的TOPS/W更重要。
3.4 三款NPU的横向对比与选型建议
好了，咱们把这三家放在一起看看。我整理了一个对比表，方便你快速决策：
| 维度 | 寒武纪MLU | 地平线BPU | 瑞芯微NPU |
|---|---|---|---|
| 定位 | 通用AI加速 | 自动驾驶视觉 | 消费级SoC集成 |
| 典型场景 | 云端推理、边缘服务器 | ADAS、智能座舱 | 智能家居、IPC、平板 |
| 模型支持 | CNN/RNN/Transformer | CNN为主 | CNN/轻量Transformer |
| 功耗范围 | 70-150W | 2.5-30W | 2-10W |
| 开发难度 | 中等（有Cambricon SDK） | 中等（有地平线工具链） | 低（RKNN-Toolkit很成熟） |
| 价格 | 高 | 中高 | 低 |
我的选型建议：
- 如果你要做边缘服务器，需要同时跑多个模型（比如人脸检测+OCR+语音识别），选寒武纪MLU。它的通用性让你不用频繁换芯片。
- 如果你做车载视觉，比如车道线检测、行人识别，地平线BPU是首选。它的能效比和专用优化，能让你的产品续航更长、发热更小。
- 如果你做消费级产品，比如智能门锁、AI摄像头，瑞芯微NPU最合适。成本低、开发快，而且SoC集成度高，省了外围电路。
最后说一句： 没有最好的NPU，只有最适合你项目的NPU。我见过有人用RK3588跑大模型，结果内存带宽不够，帧率惨不忍睹；也见过有人用MLU做智能门锁，结果功耗太高，电池撑不过一天。选型时，一定要结合你的功耗预算、模型复杂度、成本限制来综合判断。
好了，这一章就到这里。下一章咱们会深入NPU的算子优化，讲讲怎么把模型跑得更快。到时候我会分享一些我在实际项目中踩过的坑，保证让你少走弯路。