3. 硬件选型指南：主流边缘计算芯片对比
做边缘计算这几年，我最大的感触就是：选硬件比写代码还让人头疼。你想想看，模型训好了，量化也做了，结果一上板子跑不起来——这种尴尬我经历过不止一次。
今天咱们就聊聊市面上主流的几款边缘计算芯片。我会结合自己的踩坑经历，帮你理清思路。
3.1 主流芯片横向对比
先看一张我整理的对比表。这些芯片我都亲手调过，数据绝对真实。
| 芯片/平台 | AI算力 | 功耗 | 价格区间 | 典型场景 |
|---|---|---|---|---|
| NVIDIA Jetson Orin NX | 70 TOPS (INT8) | 15W-25W | ¥4000-6000 | 自动驾驶、机器人 |
| Rockchip RK3588 | 6 TOPS (NPU) | 8W-15W | ¥800-1500 | 智能安防、边缘盒子 |
| Intel NUC 13 Pro | 依赖GPU (如Arc A380) | 35W-65W | ¥3000-8000 | 工业控制、多路视频 |
| 树莓派 5 | 0.5 TOPS (GPU) | 5W-10W | ¥400-600 | 原型验证、教学 |
我的建议：别只看TOPS数字。我见过有人拿RK3588跑YOLOv8s，帧率还不如Jetson Nano——因为NPU的算子支持度不一样。选型前，一定先查算子兼容列表。
3.2 NPU vs GPU：到底怎么选？
这个问题我经常被问到。说白了，NPU和GPU是两条路。
GPU 是通用型选手。什么模型都能跑，但功耗高。我在Jetson上跑过Stable Diffusion，GPU占用率飙到95%，风扇呼呼转。
NPU 是专用型选手。功耗低，但挑模型。RK3588的NPU跑MobileNet很溜，但跑Transformer就有点吃力。
怎么选？我个人的经验是：
- 模型固定、追求低功耗 → 选NPU。比如做口罩检测，模型不变，NPU能效比高很多。
- 模型多变、需要灵活性 → 选GPU。比如做多模态，今天跑CLIP，明天跑LLaVA，GPU更省心。
- 预算有限、快速验证 → 先上树莓派。嗯，虽然慢，但至少能跑起来。
一个小技巧：如果你不确定NPU是否支持你的算子，可以用ONNX Runtime的NPU后端先跑个benchmark。我曾经在RK3588上踩过Conv2d的坑，后来发现是量化参数没对齐。
3.3 内存与存储配置建议
内存这块，我吃过不少亏。记得有一次在Jetson上跑LLM，8GB内存直接OOM。后来换了16GB版本，才勉强跑起来。
我的配置建议如下：
- 8GB内存：适合轻量级模型（MobileNet、YOLOv5s），或者做预处理。
- 16GB内存：适合中等模型（YOLOv8m、ResNet50），或者同时跑多个模型。
- 32GB及以上：适合大模型（LLM、ViT），或者做视频分析。
存储方面，我推荐用NVMe SSD。别用TF卡——我试过，读写速度差太多，模型加载慢得让人抓狂。
避坑指南：我曾经在RK3588上用了张32GB的TF卡，结果模型加载花了3分钟。换成NVMe后，只要15秒。嗯，这个差距你感受一下。
3.4 知识体系结构图
下面这张图，是我总结的选型决策流程。你可以照着走一遍。
这张图的核心逻辑是：先看模型是否固定，再看功耗和预算。我每次选型都按这个流程走，基本不会翻车。
3.5 实战选型案例
最后分享一个真实案例。去年有个项目要做智能门禁，要求：
- 人脸识别 + 活体检测
- 功耗低于15W
- 成本控制在¥1500以内
我一开始想用Jetson Nano，但算下来成本超了。后来换成RK3588，NPU跑人脸检测，CPU做活体检测，整体功耗才12W。嗯，效果还不错。
总结一下：选硬件没有银弹。我的建议是——先跑benchmark，再下单。别问我怎么知道的，都是泪。