第1章课程导学与硬件选型

1、课程导学与硬件选型：目标检测落地全景图

大家好，欢迎来到这门课。

我是你们的讲师，一个在AI落地领域摸爬滚打了好几年的工程师。说实话，市面上讲目标检测理论的课很多，但真正讲「怎么把模型塞进小盒子、跑起来、不掉帧」的课，少之又少。这门课，就是冲着这个痛点来的。

先聊聊全景图。很多人以为目标检测落地，就是训练一个YOLO模型，然后导出就完事了。嗯，这只是冰山一角。

我个人习惯把落地流程拆成四步：

我在项目中遇到过不少团队，模型在服务器上跑得飞起，一上Jetson Nano就卡成PPT。为什么？因为没考虑硬件特性。所以这门课，我会带着大家从硬件选型开始，一步步走到最终部署。

核心观点：落地不是「训练完就结束」，而是「在目标设备上稳定运行」才算结束。

选硬件，说白了就是选「算力、功耗、价格」的平衡点。我这些年用过不下十款边缘设备，今天重点讲三款最主流的。

如果你刚入门，我建议首选Jetson Nano。为什么？因为它的软件生态太完善了。NVIDIA官方提供了JetPack SDK，TensorRT、CUDA、cuDNN全给你配好。你想想看，省了多少环境配置的功夫。

不过要注意，Nano的算力其实不算强。跑YOLOv5s大概能到30FPS左右，但如果你要跑YOLOv8m，帧率会掉到15FPS以下。我曾经在一个智慧零售项目里，用Nano跑三个摄像头，结果CPU直接飙到100%，最后不得不降分辨率。

我的经验：Jetson Nano适合单路视频流、模型大小在5MB以内的场景。超过这个范围，建议上Orin NX。

RK3588是瑞芯微的旗舰芯片，内置6 TOPS的NPU。说实话，它的性价比让我很惊喜。同样是跑YOLOv5s，RK3588的NPU推理速度比Jetson Nano的GPU快30%左右，而且价格还便宜一些。

但有个坑——它的软件工具链不如NVIDIA成熟。RKNN Toolkit虽然能用，但文档写得比较简略，遇到算子不支持的情况得自己改模型。我记得有一次，一个客户要求用RK3588跑一个自定义的检测头，结果折腾了两天才把量化后的精度调回来。

避坑指南：我曾经因为RK3588的NPU不支持某些激活函数，导致模型转换失败。建议选模型时，优先用ReLU、SiLU这类常见激活函数。

树莓派4B的算力其实很弱，CPU跑目标检测基本是「幻灯片」级别。但它有个好处——便宜、功耗低、社区资源多。适合做什么？做原型验证。比如你先在树莓派上搭一个视频采集和显示流程，等模型调好了再移植到更强的设备上。

我个人习惯把树莓派当作「数据采集终端」，而不是推理终端。你想想看，用树莓派接个摄像头，把视频流通过MQTT传到服务器，这样既省电又灵活。

这门课会带着大家做一个完整的项目——基于RK3588的实时行人检测系统。为什么选RK3588？因为它在工业场景中越来越常见，而且性价比确实高。

项目会覆盖以下环节：

最终目标：在RK3588上，用YOLOv5s跑1080P视频流，达到25FPS以上，CPU占用率低于50%。

嗯，这个目标听起来不难，但实际做起来坑不少。比如量化后的精度损失怎么补偿？多路视频流怎么避免内存爆炸？这些我都会在后面的章节里一一拆解。

这一章算是开胃菜。我希望能帮大家建立一个全局视角——目标检测落地不是「训练完就完事」，而是一个系统工程。硬件选型、模型压缩、推理优化、工程部署，每一步都可能翻车。