硬件平台选型：主流嵌入式AI芯片对比
做嵌入式AI部署，第一步就是选硬件。这步走错了，后面全白搭。
我见过太多人，算法在PC上跑得飞起，一上板子就卡成PPT。说白了，选芯片就像找对象——得门当户对。你的模型多大？实时性要求多高？预算多少？这些都得想清楚。
三款主流芯片，我该怎么选？
目前市面上，做边缘AI部署最火的就三款：NVIDIA Jetson系列、瑞芯微RK3588、树莓派4B/5。我挨个说说我的使用感受。
| 对比项 | Jetson Orin NX | RK3588 | 树莓派5 |
|---|---|---|---|
| AI算力 | 70 TOPS (INT8) | 6 TOPS (NPU) | 0.5 TOPS (GPU) |
| 内存 | 8/16GB LPDDR5 | 8/16GB LPDDR4X | 4/8GB LPDDR4X |
| 功耗 | 10-25W | 5-10W | 5-7W |
| 价格 | 约4000元 | 约1500元 | 约500元 |
| 生态成熟度 | ★★★★★ | ★★★☆☆ | ★★★★☆ |
我的建议：如果你做的是视觉大模型（YOLOv8、ResNet这类），预算充足，闭眼入Jetson。如果做轻量级模型，或者产品要量产，RK3588性价比极高。树莓派嘛...适合学习入门，真做产品会哭的。
算力与内存评估：别被TOPS忽悠了
很多厂商喜欢标TOPS，动辄几十上百。但实际部署时你会发现——TOPS高不代表跑得快。
为什么？因为算力利用率才是关键。我曾在RK3588上部署一个MobileNetV3，NPU标称6 TOPS，实际跑起来只有1.2 TOPS的利用率。后来一查，是数据搬运占了大量时间。
避坑指南：评估算力时，别只看峰值。要看三样东西：
- 实际吞吐量——用你的模型跑一遍，看FPS
- 内存带宽——Jetson的LPDDR5带宽约200GB/s，RK3588约68GB/s，差距很大
- 算子支持度——有些NPU不支持某些激活函数，得手动改模型
内存这块，我踩过坑。曾经在Jetson Nano（4GB）上部署一个BERT-small，模型加载完就占了3.2GB，跑一次推理内存直接爆了。后来换成8GB版本才搞定。
所以我的经验是：内存选大不选小。尤其是做Transformer类模型，8GB是起步，16GB才安心。
外设接口考量：摄像头、显示器、传感器
嵌入式AI不是光跑模型就完事了。你得接摄像头、接屏幕、接各种传感器。接口不够用，那才叫尴尬。
我列一下常用的接口需求：
- MIPI CSI：接摄像头必备。Jetson有2路，RK3588有4路，树莓派只有1路
- USB 3.0：接USB摄像头、鼠标键盘。Jetson有4个，RK3588有2个，树莓派有2个
- HDMI/DP：接显示器。三款都有，但Jetson支持4K@60fps，其他两款稍弱
- GPIO/SPI/I2C：接传感器、舵机。树莓派最丰富，RK3588次之，Jetson最少
- PCIe：接加速卡、SSD。Jetson和RK3588都有，树莓派没有
注意：如果你要做多路视频分析（比如4路摄像头同时跑模型），RK3588的4路MIPI CSI是天然优势。Jetson虽然算力强，但只有2路CSI，得用USB转接，延迟会高一些。
我个人习惯是：先列外设清单，再选芯片。比如做智能门禁，需要1个摄像头、1块小屏幕、1个指纹模块。那树莓派就够了。但做无人售货柜，要4路摄像头+触摸屏+扫码枪，那就得上RK3588或Jetson。
一张图看懂选型逻辑
下面这张图，是我自己总结的选型流程。每次做新项目，我都会走一遍这个决策树。
实战中的血泪教训
最后分享几个我踩过的坑，希望能帮你省点钱：
- 别只看芯片，要看开发板——同样的Jetson，官方开发板散热好、接口全，第三方的可能缩水严重
- 内存不够？考虑模型量化——INT8量化能把模型缩小4倍，但精度会掉1-2个点。我曾在RK3588上把YOLOv5s从FP16量化到INT8，FPS从15涨到45，精度只掉了0.3%
- 散热不是小事——Jetson满载能到80度，不加风扇直接降频。我有个项目在夏天室外跑，没加散热，半小时后推理速度掉了一半
- 外设驱动要提前确认——有些USB摄像头在Linux下要改驱动，有些MIPI摄像头只支持特定版本的内核。我建议买之前先查一下社区支持情况
我的个人习惯：选型时先列一个「必须满足」清单，再列一个「最好有」清单。比如：必须支持INT8量化、必须有2路以上CSI、内存不低于8GB。然后拿着清单去对比，这样不容易被厂商的宣传带偏。
好了，硬件选型这块就聊到这儿。记住一句话：没有最好的芯片，只有最合适的芯片。你的模型、你的场景、你的预算，这三者平衡好了，选型就成功了一大半。
公众号:蓝海资料掘金营，微信deep3321