边缘AI概述：从概念到实战

大家好，我是你们这门课的主讲。今天咱们聊聊边缘AI。

说实话，我第一次接触边缘AI这个概念，是在一个智能家居的项目里。当时客户要求摄像头本地处理人脸识别，不能上传云端。我心想，这树莓派那点算力，能行吗？结果还真行。从那以后，我就对边缘计算上了瘾。

什么是边缘AI？

边缘AI，说白了，就是在靠近数据源头的地方跑AI模型。

你想想看，传统的AI都在云端。摄像头拍个画面，先传到服务器，服务器算完，再传回来。这一来一回，延迟高、带宽贵、隐私还容易泄露。

边缘AI就不一样了。模型直接部署在设备上，比如树莓派、手机、智能音箱。数据本地处理，结果本地输出。嗯，这里要注意，边缘AI不是不要云端，而是把一部分推理任务下放到边缘。

我个人习惯把边缘AI分成三类：

• 端侧AI：手机、手表、耳机这类消费设备
• 边缘节点：智能网关、工业控制器、边缘服务器
• 边缘云：靠近用户的微型数据中心

边缘AI vs 云端AI

很多同学问我，边缘AI是不是要取代云端AI？我的回答是：不会，但分工会更明确。

我做过一个对比实验，用同一个模型做目标检测：

对比维度	边缘AI	云端AI
延迟	毫秒级（本地处理）	百毫秒到秒级（网络传输）
带宽需求	低（只传结果）	高（传原始数据）
隐私安全	高（数据不出设备）	低（数据上传云端）
模型复杂度	受限（算力有限）	几乎无限制
更新维护	困难（需OTA升级）	方便（服务端更新）
成本	硬件成本高	带宽和服务器成本高

你看，两者各有优劣。我建议的做法是：实时性要求高的任务放边缘，复杂分析放云端。

边缘AI的应用场景

边缘AI的应用场景，其实比你想象的要多。我挑三个典型的说说。

智能家居

这是边缘AI最接地气的场景。智能音箱的语音唤醒、智能摄像头的移动侦测、智能门锁的人脸识别，这些都是边缘AI。

我记得有个项目，客户要求智能猫眼在1秒内完成人脸识别。云端方案根本做不到，因为网络延迟就占了0.5秒。最后我们用树莓派4B，跑了一个轻量级的MobileNet模型，本地推理只要300毫秒。

工业视觉

工业场景对实时性和可靠性要求极高。生产线上的缺陷检测，如果依赖云端，一旦断网就全停了。

我参与过一个PCB板缺陷检测项目。摄像头每秒拍30帧，每帧都要检测焊点是否虚焊。云端方案延迟高，而且带宽成本惊人。换成边缘AI后，直接在工控机上跑YOLO的轻量版本，延迟降到50毫秒以内。

可穿戴设备

手环、手表、智能眼镜，这些设备对功耗和体积要求苛刻。边缘AI在这里的应用，主要是健康监测和手势识别。

举个例子，智能手表的心律失常检测。数据在手表本地处理，只有发现异常时才上传到手机。这样既省电，又保护隐私。我测试过，一个轻量级的CNN模型在Cortex-M4上跑，功耗只有几毫瓦。

课程项目概览：基于树莓派的实时目标检测系统

说了这么多理论，咱们来点实际的。这门课的项目，就是做一个基于树莓派的实时目标检测系统。

为什么选树莓派？原因有三：

1. 生态成熟：资料多、社区活跃、配件便宜
2. 性能适中：树莓派4B的算力，刚好能跑轻量模型
3. 接口丰富：GPIO、CSI摄像头、USB，方便扩展

项目的大致流程是这样的：

1. 数据采集：用树莓派摄像头拍摄目标物体
2. 模型训练：在PC上用TensorFlow训练轻量检测模型
3. 模型转换：将模型转换为TFLite格式，进行量化
4. 模型部署：将量化后的模型部署到树莓派
5. 实时推理：调用摄像头，实时显示检测结果
6. 性能优化：调整参数，提升帧率和准确率

最终效果是什么？树莓派接上USB摄像头，实时显示画面，框出检测到的物体，并标注类别和置信度。帧率能达到15-20 FPS，对于边缘设备来说，已经相当不错了。

好了，这一章就到这里。下一章，咱们开始动手搭建开发环境。记住，边缘AI不是玄学，是工程。咱们一步步来。