1、课程导论与硬件选型：嵌入式AI市场现状、主流芯片对比（RK3588/Jetson/算能）、课程项目全景图

1.1 嵌入式AI，到底在火什么？

说实话，这几年找我咨询算法移植的朋友越来越多了。大家普遍有个困惑：明明在服务器上跑得飞快的模型，一放到嵌入式设备上就卡成PPT。这背后，其实就是嵌入式AI要解决的核心问题——在功耗、算力、成本三者之间找到平衡点。

我2018年刚入行那会儿，嵌入式AI还是个挺小众的方向。那时候大家普遍的做法是把模型量化到INT8，然后硬着头皮往ARM Cortex-A系列上怼。效果嘛...嗯，只能说勉强能跑。但现在不一样了，NPU（神经网络处理器）几乎成了中高端芯片的标配。你想想看，从智能摄像头到扫地机器人，从无人机到工业质检设备，哪个不在喊AI落地？

我个人习惯把嵌入式AI市场分成三个梯队：

• 第一梯队：消费电子（手机、平板、智能家居）——量大，但算法要求高，成本敏感
• 第二梯队：边缘计算（安防、工业、机器人）——对稳定性和实时性要求极高
• 第三梯队：特种行业（医疗、军工、自动驾驶）——认证周期长，但利润可观

我在项目中遇到过不少团队，一上来就选最贵的芯片，结果产品定价太高卖不出去。也有团队为了省钱选了低端芯片，结果算法跑不动，项目直接烂尾。所以，选型这件事，真的得慎重。

1.2 主流芯片三巨头：RK3588 / Jetson / 算能

目前市面上能打的主流芯片，我个人觉得就这三家。咱们一个一个聊。

1. Rockchip RK3588

瑞芯微的旗舰芯片，8nm工艺，4核Cortex-A76 + 4核Cortex-A55，自带6TOPS的NPU。这芯片最大的优势是什么？性价比。我去年帮一个客户做工业视觉项目，对比了一圈，最后选了RK3588。原因很简单：同样跑YOLOv5s，RK3588的帧率能到30fps以上，但整板成本只有Jetson Nano的一半。

不过，RK3588的NPU开发工具链（RKNN）早期版本确实有点坑。我记得2022年刚接触时，模型转换经常报一些莫名其妙的错误，文档也不够全。但现在好多了，RKNN Toolkit 2.0已经比较成熟了。

2. NVIDIA Jetson 系列

Jetson系列，尤其是Orin NX和Xavier NX，在AI开发者圈子里几乎是「标配」。为什么？因为生态太强了。TensorRT、DeepStream、CUDA...这些工具链你只要用过一次，就很难再回去用别的。

Jetson Orin NX的算力最高能到100TOPS（INT8），跑YOLOv8x都能到60fps以上。但代价也很明显——贵。一块Orin NX模组就要3000多块，再加上载板、散热，整机成本轻松破5000。

我曾经帮一个做智慧零售的客户评估方案，他们想用Jetson做货架识别。我说：「你们一个摄像头成本5000，得卖多少瓶水才能回本？」最后他们还是选了RK3588方案。

3. 算能（SOPHGO）系列

算能是个相对低调的玩家，但实力不容小觑。他们的BM1684X芯片，算力32TOPS（INT8），功耗只有35W左右。最吸引人的是，算能的TPU对Transformer模型的支持非常好。我测试过，跑ViT（Vision Transformer）的效率比同级别芯片高30%以上。

算能的开发工具链叫BMNNSDK，上手难度介于RKNN和TensorRT之间。文档写得还算清楚，但社区活跃度不如前两家。如果你做的是安防或智慧城市项目，算能是个不错的选择。

1.3 三款芯片横向对比

为了让你看得更清楚，我整理了一个对比表：

对比维度	RK3588	Jetson Orin NX	算能BM1684X
算力（INT8）	6 TOPS	100 TOPS	32 TOPS
典型功耗	8-15W	15-40W	25-35W
模组价格	约500元	约3000元	约1500元
开发工具链	RKNN Toolkit	TensorRT / DeepStream	BMNNSDK
Transformer支持	一般	优秀	优秀
社区生态	中等	非常活跃	一般
适合场景	成本敏感型产品	高性能计算、研发原型	安防、智慧城市

看到这个表，你可能会问：「那我到底该选哪个？」我的回答是：先看你的产品定位，再看你的团队能力。如果团队都是做Python的，对底层驱动不熟，那Jetson是最省心的。如果团队有Linux底层能力，想控制成本，RK3588很香。如果要做Transformer模型落地，算能值得一试。

1.4 课程项目全景图

光说不练假把式。这门课的核心，就是带着你完整走一遍算法移植的流程。我们选了一个非常经典的项目——基于RK3588的实时目标检测系统。

为什么选RK3588？因为它是目前性价比最高的选择，而且市面上资料相对丰富。学会了RK3588的移植方法，再去看Jetson或算能，基本就是触类旁通。

整个课程项目分为四个阶段：

1. 环境搭建与模型准备（第2-5章）：交叉编译环境、RKNN Toolkit安装、模型转换与量化
2. 算法移植与优化（第6-15章）：YOLOv5s模型移植、算子替换、内存优化、多线程流水线
3. 系统集成与调试（第16-25章）：摄像头驱动、显示输出、网络通信、性能调优
4. 产品化与部署（第26-30章）：模型加密、OTA升级、稳定性测试、量产烧录

我设计这个课程时，特意把「坑」都埋了进去。比如第8章讲模型量化时，我会专门讲一个我在项目中遇到的「量化后精度掉到50%」的案例，以及怎么一步步排查解决。这些经验，说实话，都是真金白银换来的。

1.5 写在开始之前

嵌入式AI这个方向，说难也难，说简单也简单。难在你要同时懂算法、懂硬件、懂系统。简单在只要你肯动手，跟着课程一步步做，三个月内绝对能上手。

我记得自己第一次在RK3399上跑通YOLOv3时，看到屏幕上出现检测框的那一刻，真的挺激动的。虽然帧率只有5fps，但那种「把算法从服务器搬到板子上」的成就感，是纯做算法开发体会不到的。

好了，废话不多说。下一章，我们开始搭建开发环境。准备好你的RK3588开发板，咱们开干。