一、课程导论与硬件选型：工业缺陷检测的痛点、模型移植全流程概览、边缘计算设备选型
大家好，欢迎来到《工业缺陷检测模型移植实战》的第一课。
我是你们这门课的老朋友，一个在工业视觉领域摸爬滚打了七八年的老兵。说实话，这些年我踩过的坑，比你们见过的缺陷样本还多。今天咱们不聊虚的，直接切入正题——聊聊工业缺陷检测的痛点、模型移植到底是个什么流程，以及最让人头疼的硬件选型问题。
1.1 工业缺陷检测的痛点：为什么你的模型在实验室跑得飞起，到产线就“翻车”？
很多刚入行的朋友问我：“老师，我在服务器上训练好的模型，准确率99.9%，为什么一上产线就各种误报、漏报？”
嗯，这个问题问得好。我当年第一次做项目时也遇到过。说白了，实验室环境是“温室”，产线环境是“战场”。
工业缺陷检测的痛点，我总结为以下三点：
- 数据分布漂移：产线上的光照、角度、产品批次一变，模型立马“懵圈”。我在一个手机玻璃盖板项目中，就因为换了条产线的光源，模型准确率直接从98%掉到60%。
- 实时性要求苛刻：产线节拍通常要求每张图处理时间在50ms以内，甚至更低。你那个ResNet-152跑一次要200ms，客户直接让你走人。
- 硬件资源受限：服务器上的RTX 3090不可能搬到产线上去。边缘设备算力有限，内存小，还得考虑功耗和散热。
核心矛盾：算法精度 vs. 推理速度 vs. 硬件成本，这三者永远在打架。我们的任务，就是找到那个最合适的平衡点。
1.2 模型移植全流程概览：从训练到部署，你缺的不是算法，是工程化思维
模型移植，说白了就是把你在服务器上训练好的深度学习模型，经过一系列“手术”，让它能在边缘设备上高效运行。
我个人习惯把整个流程分成五个阶段：
- 模型选型与训练：别一上来就搞大模型。我建议先评估你的任务复杂度，选一个精度够用、参数量小的轻量级网络，比如MobileNet、ShuffleNet或者EfficientNet-Lite。
- 模型转换与量化：这是最关键的步骤。把PyTorch/TensorFlow模型转成ONNX，再转成目标芯片的格式（比如TensorRT、RKNN、NCNN）。量化（FP16/INT8）能大幅提升速度，但精度会有损失。我曾经在一个项目中，INT8量化后精度掉了0.5%，但速度提升了3倍，客户非常满意。
- 推理引擎集成：在边缘设备上编写C++或Python代码，加载转换后的模型，实现前向推理。这里要注意内存管理和线程安全。
- 前后处理优化：图像预处理（Resize、Normalize）和后处理（NMS、阈值过滤）往往比推理本身还耗时。我习惯用OpenCV的硬件加速或NEON指令集来优化。
- 系统联调与测试：把模型嵌入到产线系统中，进行压力测试和稳定性测试。别忘了做“坏样本”测试——看看模型在极端光照、遮挡情况下会不会崩。
避坑指南：我曾经在一个项目中，模型转换后精度正常，但一跑起来就内存泄漏。查了三天，发现是TensorRT的显存没有手动释放。记住，边缘设备的内存很金贵，一定要做好资源管理。
1.3 边缘计算设备选型：Jetson、瑞芯微、算能，到底选哪个？
这是大家最关心的问题。市面上的边缘设备五花八门，我主要推荐三个主流阵营：NVIDIA Jetson、瑞芯微（Rockchip）和算能（SOPHGO）。
为什么是这三家？因为它们的生态相对成熟，社区活跃，踩坑了能找到人问。
下面我结合自己的项目经验，给大家做个对比：
| 维度 | NVIDIA Jetson (Orin NX/AGX) | 瑞芯微 (RK3588/RK3568) | 算能 (BM1684X/SE5) |
|---|---|---|---|
| 算力 | 100 TOPS (Orin) 左右，GPU强 | 6 TOPS (RK3588 NPU) | 17.6 TOPS (BM1684X TPU) |
| 生态 | 最成熟，TensorRT、DeepStream | 中等，RKNN Toolkit | 中等，Sophon SDK |
| 功耗 | 15W-75W (Orin NX) | 5W-15W (RK3588) | 12W-35W (BM1684X) |
| 价格 | 贵（3000-10000+） | 便宜（500-1500） | 中等（1500-4000） |
| 适用场景 | 高精度、高实时性、复杂模型 | 性价比优先、轻量模型、批量部署 | 国产化要求、中等算力需求 |
1.3.1 NVIDIA Jetson：性能王者，但钱包要厚
如果你预算充足，且对实时性要求极高（比如高速产线检测），Jetson是首选。我去年做的一个半导体晶圆缺陷检测项目，用的就是Jetson Orin NX。模型是YOLOv8s，INT8量化后，推理速度能达到2ms/张，完全满足产线节拍。
但要注意，Jetson的散热是个问题。我见过有人把Orin NX放在密闭机箱里，跑半小时就过热降频。建议加装主动散热风扇。
1.3.2 瑞芯微：性价比之王，适合批量部署
瑞芯微的RK3588是我个人非常喜欢的芯片。它集成了6 TOPS的NPU，功耗低，价格便宜。如果你做的是小批量、多品种的缺陷检测（比如PCB板、五金件），RK3588完全够用。
我记得有一次给一个做螺丝检测的客户做方案，他们需要部署100台设备。如果用Jetson，光硬件成本就上百万。最后我们选了RK3588，成本直接砍到三分之一，精度和速度也达标了。
不过，瑞芯微的RKNN Toolkit在模型转换时有些坑。比如某些算子不支持，需要手动替换。这个我们后面课程会详细讲。
1.3.3 算能：国产化首选，生态在追赶
算能的BM1684X是国产芯片里做得不错的。它的TPU架构对卷积神经网络优化得很好。如果你有国产化要求（比如政府项目、军工项目），算能是很好的选择。
我去年参与的一个智慧安防项目，客户明确要求不能用NVIDIA芯片。我们用了算能的SE5盒子，跑一个轻量化的缺陷检测模型，效果还不错。但说实话，它的SDK文档写得有点晦涩，我当初调试驱动就花了两天。
重要提醒：选型不是越贵越好。我见过有人用Jetson AGX跑一个MobileNet，纯属浪费。先评估你的模型复杂度、产线节拍、预算和部署数量，再决定。如果拿不准，可以先用瑞芯微的RK3568做原型验证，成本低，试错成本也低。
1.4 本章小结：从“能用”到“好用”，你只差这一步
好了，第一课的内容就到这里。我们聊了工业缺陷检测的三大痛点，梳理了模型移植的五步流程，也对比了主流的边缘计算设备。
你可能会问：“老师，我听完还是不知道怎么选？”
别急。这门课后面会手把手带你走完整个流程。下一章，我们会从模型选型开始，教你如何选择一个既快又准的轻量级网络。
记住，模型移植不是玄学，是工程。只要掌握了方法，你也能让模型在产线上跑得又快又稳。
咱们下节课见。