第二章 嵌入式平台选型：主流嵌入式AI芯片对比
做BEV模型部署，第一步不是写代码，而是选芯片。
我见过太多团队，模型在PC上跑得飞起，一到嵌入式平台就卡成PPT。说白了，芯片选型没做好，后面全是坑。
今天咱们就聊聊三款主流芯片：Jetson Orin、地平线J6、黑芝麻A1000。我会结合自己的项目经验，把它们的优缺点、适用场景、以及选型时的权衡点，掰开了讲清楚。
2.1 三款芯片的核心参数对比
先看一张表，心里有个底。
| 参数项 | Jetson Orin NX 16GB | 地平线 J6 | 黑芝麻 A1000 |
|---|---|---|---|
| AI算力（INT8） | 100 TOPS | 128 TOPS | 58 TOPS（INT8） |
| 内存 | 16GB LPDDR5 | 8GB LPDDR4x | 8GB LPDDR4 |
| 内存带宽 | 102.4 GB/s | 68 GB/s | 50 GB/s |
| 典型功耗 | 15W - 25W | 10W - 15W | 8W - 12W |
| 工具链成熟度 | ★★★★★ | ★★★★☆ | ★★★☆☆ |
| BEV模型适配 | 原生支持TensorRT | 需适配地平线BPU | 需适配自研NPU |
| 价格（参考） | 约4000元 | 约1500元 | 约800元 |
我的个人习惯是：先看内存带宽，再看算力。算力再高，内存喂不饱数据，也是白搭。BEV模型里Transformer的注意力机制，对内存带宽的消耗远超卷积。
2.2 Jetson Orin：生态成熟，但贵
Jetson Orin是我用得最多的平台。说实话，它的生态太舒服了。
TensorRT直接支持Transformer、支持动态形状、支持INT8量化。你想想看，BEV模型里那些复杂的注意力层，在Orin上几乎不需要额外适配。我在项目中遇到过，一个BEVFormer模型，从PyTorch导出到TensorRT，只花了两天时间。
但缺点也很明显——贵。一片Orin NX 16GB要4000多块，量产成本压力很大。而且功耗在15W以上，对电池供电的设备不太友好。
避坑指南：我曾经以为Orin的100 TOPS算力足够跑任何BEV模型，结果发现内存带宽才是瓶颈。BEV模型的BEV Pooling操作，需要频繁读写特征图，102.4 GB/s的带宽勉强够用。如果你用Orin AGX（204.8 GB/s），体验会好很多。
2.3 地平线J6：性价比之选，但需要适配
地平线J6是国产芯片里我比较看好的。128 TOPS的算力，价格只有Orin的三分之一，性价比确实高。
但有个问题——它的BPU（Brain Processing Unit）对Transformer的支持不如Orin那么原生。我建议，如果你用J6跑BEV模型，最好把Transformer部分做一些结构优化，比如用线性注意力替代标准注意力，或者把QKV投影的维度压缩一下。
嗯，这里要注意：J6的内存只有8GB，而且带宽68 GB/s。对于BEV模型来说，8GB内存有点紧。我一般会把模型输入分辨率控制在256x256以内，BEV网格大小设为128x128，这样勉强能跑起来。
我曾经踩过的坑：地平线的工具链对自定义算子支持有限。如果你在BEV模型里用了GridSample或者自定义的Voxel Pooling，可能需要自己写BPU算子。这个工作量不小，建议提前评估。
2.4 黑芝麻A1000：低功耗，但生态待完善
黑芝麻A1000的定位很明确——低功耗、低成本。8W的功耗，800块的价格，非常适合做前视一体机或者低功耗的环视系统。
但说实话，它的工具链成熟度是三者里最弱的。58 TOPS的算力，跑轻量级BEV模型（比如BEVDet-Tiny）还行，但想跑BEVFormer或者PETR这种大模型，基本没戏。
我个人习惯用A1000做BEV模型的轻量化验证。比如先在一个小数据集上把模型剪枝量化好，再移植到Orin上做最终部署。这样既能控制成本，又能保证性能。
关键点：黑芝麻的NPU对INT8量化支持不错，但对FP16的支持有限。如果你打算用混合精度推理，建议先确认一下算子支持列表。我遇到过FP16的LayerNorm在NPU上跑不了，最后只能切回INT8。
2.5 算力与内存的权衡：BEV模型到底需要什么？
很多同学问我：「老师，是不是算力越高越好？」
其实不是。BEV模型对内存的需求，往往比算力更苛刻。你想想看，一个典型的BEV模型流程：
- 多路摄像头输入（通常是6路）
- 每路图像经过Backbone提取特征
- 特征通过View Transformation映射到BEV空间
- BEV特征经过Transformer或CNN处理
- 输出检测或分割结果
这里面，第2步和第3步对内存带宽消耗最大。6路图像的特征图同时存在内存里，带宽不够就会导致GPU/NPU空闲等待。我实测过，Orin NX跑BEVFormer时，内存带宽利用率经常冲到90%以上。
我的建议：选型时，先算一笔账。假设你的BEV模型需要同时处理6路1080p图像，每路特征图大小是256x256x64，那么单帧就需要6 * 256 * 256 * 64 * 4字节 ≈ 96MB。如果帧率是30fps，每秒需要读取2.88GB的数据。再加上模型权重和中间结果，内存带宽至少需要50 GB/s以上。
2.6 功耗约束：不能忽视的硬指标
功耗这东西，平时不觉得，一到量产就头疼。
我参与过一个车载项目，客户要求整机功耗不超过15W。我们一开始选了Orin NX，结果发现光芯片就占了15W，再加上摄像头、散热、其他外设，整机功耗直奔25W。最后只能降频运行，模型帧率从30fps掉到18fps。
所以我的经验是：选芯片时，把功耗预算留出30%的余量。比如目标功耗15W，芯片功耗最好控制在10W以内。这样散热和电源设计都更从容。
| 应用场景 | 推荐芯片 | 理由 |
|---|---|---|
| 高性能自动驾驶（L3+） | Jetson Orin AGX | 算力高、生态好、支持大模型 |
| 量产ADAS（L2/L2+） | 地平线J6 | 性价比高、功耗适中 |
| 低功耗前视一体机 | 黑芝麻A1000 | 功耗低、成本低、够用 |
| 算法验证与原型开发 | Jetson Orin NX | 工具链成熟、调试方便 |
2.7 我的最终建议
如果你问我个人怎么选，我会说：
- 做原型验证，无脑选Jetson Orin。省下的时间比省下的钱值钱。
- 做量产，优先考虑地平线J6。性价比摆在那里，适配虽然麻烦点，但值得投入。
- 做超低功耗产品，黑芝麻A1000可以考虑，但要做好模型轻量化的心理准备。
最后说一句：芯片选型没有绝对的好坏，只有合不合适。把算力、内存、功耗、成本、生态这五个维度列出来，根据你的项目需求打分，选总分最高的那个。嗯，就这么简单。
下一章预告：我们会深入BEV模型的算子层面，聊聊如何在嵌入式平台上优化Transformer的注意力计算。到时候我会分享一些具体的代码和调优技巧，敬请期待。