第二章 硬件平台选型：主流嵌入式AI芯片对比
做嵌入式AI部署，第一步就是选芯片。这事儿我踩过不少坑。
说实话，芯片选型决定了你后面所有工作的上限。算力不够，模型再牛也跑不动；功耗太高，产品根本没法落地。今天我就把市面上主流的几款芯片，掰开揉碎了跟你聊聊。
2.1 主流芯片速览
目前市面上能打的嵌入式AI芯片，主要就这五家：NVIDIA Jetson、Intel Movidius、Google Coral、华为昇腾、瑞芯微。我按自己的使用经验，给你排个序。
| 芯片平台 | 代表型号 | 算力（TOPS） | 典型功耗 | 参考价格 | 我的评价 |
|---|---|---|---|---|---|
| NVIDIA Jetson | Orin NX / Xavier NX | 10 - 100 | 10W - 30W | ￥2000 - ￥8000 | 生态最强，但贵 |
| Intel Movidius | Myriad X | 1 - 4 | 1W - 2W | ￥300 - ￥600 | 功耗极低，算力弱 |
| Google Coral | Edge TPU | 4 | 2W | ￥400 - ￥800 | 上手快，模型受限 |
| 华为昇腾 | Atlas 200 / 310 | 8 - 22 | 8W - 15W | ￥1000 - ￥3000 | 国产替代首选 |
| 瑞芯微 | RK3588 / RK3568 | 3 - 6 | 5W - 10W | ￥200 - ￥800 | 性价比之王 |
核心观点：没有最好的芯片，只有最合适的芯片。我见过有人用Jetson做智能门锁，结果成本比产品售价还高——这就是典型的选型失误。
2.2 选型四大考量因素
2.2.1 算力：别被TOPS数字忽悠了
算力这东西，说白了就是芯片每秒能做多少次运算。但这里有个坑——TOPS是理论峰值，实际能跑多少，得看你的模型和框架。
我记得有一次，客户拿了个MobileNetV2，说在Jetson Nano上能跑30fps。结果换到Coral Edge TPU上，同样的模型只能跑15fps。为什么？因为Coral对某些算子支持不好，模型被拆成了CPU+TPU混合执行，性能直接腰斩。
我个人习惯的做法是：
- 先拿目标模型在芯片上跑一遍benchmark
- 重点关注实际推理帧率，而不是TOPS数字
- 留出30%的算力余量，给预处理和后处理
小技巧：选型时，可以问芯片厂商要一份「模型支持列表」。看看你的模型里有没有不支持的算子。我曾经因为一个Depthwise Conv不支持，被迫改了整个网络结构，那叫一个痛苦。
2.2.2 功耗：产品续航的命门
功耗这事儿，做产品的都懂。电池供电的设备，功耗每多1W，续航就少一截。
我做过一个手持测温仪的项目，一开始选了Jetson Xavier NX，功耗15W。结果电池只能撑40分钟。后来换成瑞芯微RK3588，功耗降到8W，续航直接翻倍。虽然算力降了，但产品能用了。
这里给你个参考：
- 电池供电设备：功耗控制在5W以内，首选Coral或瑞芯微
- 车载或机器人：10W-30W，Jetson或昇腾都行
- 服务器级边缘计算：30W以上，直接上Jetson Orin
注意：芯片标称的功耗是「典型功耗」，实际跑模型时可能会高出20%-50%。我建议你按标称值的1.5倍来设计散热和电源。
2.2.3 成本：一分钱一分货
成本这东西，得看你的出货量。小批量打样，Jetson开发板贵但省事。大批量量产，瑞芯微这种国产芯片能把成本压到200块以内。
我有个朋友做AI摄像头，一开始用Jetson Nano，单板成本800。后来量大了，换成瑞芯微RK3568，成本降到300。虽然开发周期多了两个月，但省下来的钱够养三个工程师了。
我的建议是：
- 原型验证阶段：用Jetson或Coral，开发快
- 小批量试产：用昇腾或瑞芯微，成本可控
- 大批量量产：必须用国产芯片，否则利润全被吃掉
2.2.4 生态：决定你开发效率的关键
生态这东西，平时感觉不到，遇到问题才知道有多重要。
NVIDIA的生态是最好的。TensorRT、DeepStream、各种预训练模型，文档齐全，社区活跃。我遇到问题，基本都能在论坛里找到答案。
华为昇腾的生态在快速追赶。CANN工具链虽然不如TensorRT成熟，但华为的FAE支持很到位。我曾经半夜遇到个算子兼容问题，第二天一早华为的工程师就给我回了邮件。
瑞芯微的生态嘛...嗯，说实话，有点一言难尽。文档不全，社区冷清，很多坑得自己踩。但看在价格的份上，忍了。
我的经验：如果你团队里没有熟悉芯片底层的人，建议优先选生态好的平台。否则一个驱动问题卡你两周，项目就黄了。
2.3 选型决策流程
说了这么多，到底怎么选？我一般按这个流程走：
- 先定功耗预算——电池供电还是插电？这决定了你能选哪些芯片
- 再算算力需求——拿你的模型跑一遍，看需要多少TOPS
- 然后看成本目标——BOM成本控制在多少？这决定了芯片档次
- 最后评估生态——团队技术栈匹配哪个平台？开发周期有多长？
举个例子：你要做一个智能门锁，带人脸识别。
- 功耗：电池供电，必须低于3W
- 算力：人脸识别模型，2-3 TOPS就够了
- 成本：BOM控制在200以内
- 生态：团队熟悉Linux，但没搞过AI芯片
这么一分析，瑞芯微RK3568就是最佳选择。功耗5W左右，算力3TOPS，成本150块，虽然生态差点，但团队能搞定。
避坑指南：我曾经选型时只看算力和价格，忽略了功耗。结果产品做出来，散热片烫得能煎鸡蛋。从那以后，我选芯片第一件事就是看热设计功耗（TDP）。
2.4 总结
芯片选型这事儿，没有标准答案。但记住一个原则：先定场景，再选芯片。
你想想看，一个智能音箱和一个自动驾驶小车，用的芯片能一样吗？场景决定了功耗、算力、成本的天花板，芯片只是在这个天花板下做选择。
最后送你一句话：选芯片就像找对象，没有最好的，只有最合适的。别被参数表迷了眼，多跑跑实际模型，多问问用过的人，比什么都强。
下一章，我会聊聊模型转换和量化那些事儿。嗯，那才是真正让人头秃的地方。