第2章嵌入式平台选型

2、嵌入式平台选型：主流嵌入式AI平台对比

做嵌入式AI部署，第一步就是选平台。

说实话，我见过不少朋友，模型调得漂漂亮亮，结果一上板子跑不起来。要么内存不够，要么算力跟不上。所以这一章，咱们把市面上最主流的三个平台——Jetson Nano、RK3588、树莓派4B——掰开揉碎了聊一聊。

先看一张表，心里有个底。

参数项	Jetson Nano	RK3588	树莓派4B
AI算力	472 GFLOPS (FP16)	6 TOPS (INT8)	≈ 0.1 TOPS (CPU)
CPU	4核 Cortex-A57	4核 A76 + 4核 A55	4核 Cortex-A72
GPU	128核 Maxwell	Mali-G610 MP4	VideoCore VI
NPU	无	6 TOPS NPU	无
内存	4GB LPDDR4	8GB/16GB LPDDR4X	2GB/4GB/8GB LPDDR4
功耗	5W-10W	8W-15W	3W-7W
价格	约 800-1000 元	约 1200-1800 元	约 300-600 元

嗯，光看数字可能有点抽象。我一个个说。

Jetson Nano 是我最早接触的嵌入式AI平台。说实话，它不算新了，但胜在稳定。

它的 472 GFLOPS 算力，跑 YOLOv5s 的 FP16 模型，大概能到 20-25 FPS。这个帧率做实时检测，勉强够用。

  我的经验： 在 Jetson Nano 上部署 YOLOv5s，我建议用 TensorRT 做加速。不开 TensorRT 的话，帧率直接掉到 10 FPS 以下，基本没法用。

不过有个坑——它没有 NPU。所有AI计算全靠GPU。这意味着你跑模型的时候，GPU 占用率经常冲到 95% 以上。我有个项目，同时跑检测和显示，结果画面卡成幻灯片。后来把显示任务扔给 CPU，才勉强稳住。

注意： Jetson Nano 的 4GB 内存，跑 YOLOv5m 以上模型会爆。我建议只跑 YOLOv5s 或 YOLOv8n，再大就扛不住了。

RK3588 是瑞芯微的旗舰芯片。我第一次拿到开发板时，第一反应是——这玩意儿真能打。

6 TOPS 的 NPU 算力，比 Jetson Nano 的 GPU 算力强了不止一个量级。而且它还有 4 个 A76 大核，跑预处理和后处理非常快。

我做过一个测试：用 RK3588 的 NPU 跑 YOLOv5s 的 INT8 模型，帧率能到 40-50 FPS。这个成绩，说实话，让我有点意外。

小技巧： RK3588 的 NPU 对 INT8 量化支持很好。我个人习惯是，先把模型转成 ONNX，再用 RKNN Toolkit 量化成 INT8。精度损失通常在 1-2% 以内，但速度能翻倍。

不过它也有短板。生态不如 Jetson 成熟。你遇到问题，网上搜到的资料可能不多。我曾经卡在一个算子兼容性问题上，折腾了两天才搞定。

避坑指南： 我曾经在 RK3588 上部署 YOLOv8，发现它的 NPU 不支持某些上采样算子。后来换成 YOLOv5 才顺利通过。选模型时，最好先查一下 NPU 的算子支持列表。

树莓派4B，很多人的第一块开发板。我也不例外。

但说实话，用它跑 YOLO，纯属「用爱发电」。它的 CPU 算力只有 0.1 TOPS 左右，跑 YOLOv5s 的 FP32 模型，帧率大概 2-3 FPS。嗯，就是看幻灯片的感觉。

那它适合什么？

我有个学生，非要用树莓派做实时口罩检测。我劝了他三次，他不听。最后跑出来 1.5 FPS，他自己放弃了。

  我的建议： 如果你预算有限，又想入门，树莓派可以买来学 Linux 和 Python。但真要部署 YOLO，至少上 Jetson Nano 或 RK3588。

选平台，说白了就是看两个东西：算力和内存。

算力方面：

内存方面：

你想想看，Jetson Nano 只有 4GB 内存，系统占掉 1GB，再跑个 YOLOv5m，内存就快满了。所以我一般只推荐在它上面跑 YOLOv5s 或 YOLOv8n。

说了这么多，到底怎么选？我直接给结论。

  选型速查表：
  预算有限，入门学习： 树莓派4B（300-600元）
项目实战，追求稳定： Jetson Nano（800-1000元）
性能优先，性价比高： RK3588（1200-1800元）
量产产品，成本敏感： RK3588（芯片价格更低）

我个人习惯是：

最后说一句：没有最好的平台，只有最合适的平台。你手头有什么项目，就选什么板子。别为了省钱买树莓派，结果项目做不成，反而更浪费钱。

下一章，咱们聊聊怎么在选好的板子上搭建环境。到时候我会手把手教你装系统、配驱动、跑第一个 YOLO 模型。