1、边缘AI概述：什么是边缘AI、边缘AI vs 云端AI、典型应用场景

各位同学好，我是你们这门课的老朋友。今天咱们来聊聊边缘AI的入门话题。

说实话，我第一次接触边缘AI这个概念时，脑子里全是问号。AI不都是在云端跑的吗？怎么还要跑到设备端去？后来做了几个项目，才真正明白——这玩意儿，说白了就是把AI的脑子，从云端搬到离你最近的地方。

1.1 什么是边缘AI

边缘AI，英文叫Edge AI。简单理解就是：在数据产生的地方，直接运行AI算法。

你想想看，传统AI是啥流程？传感器采集数据 → 上传到云端 → 云端推理 → 返回结果。这一来一回，少说几百毫秒。边缘AI呢？数据在本地采集，本地处理，本地出结果。

我做过一个智能门锁项目，用户希望人脸识别开门延迟不超过200ms。如果用云端方案，网络抖动一下，延迟直接飙到1秒以上。后来改用边缘AI方案，在门锁的MCU上跑轻量级人脸模型，延迟稳定在150ms以内。嗯，这才是用户想要的体验。

1.2 边缘AI vs 云端AI

这两者不是谁替代谁的关系，而是互补。我习惯用一个表格来对比：

对比维度	边缘AI	云端AI
延迟	毫秒级（本地处理）	百毫秒到秒级（网络传输）
带宽需求	低（只传结果）	高（上传原始数据）
隐私安全	高（数据不出设备）	低（数据上传云端）
计算能力	受限（MCU/低功耗CPU）	强大（GPU/TPU集群）
功耗	低（mW级）	高（kW级）
模型复杂度	轻量级模型	大型模型
更新维护	OTA升级较复杂	云端直接更新

为什么会这样？说白了，边缘设备资源有限。你不可能在电池供电的传感器上跑一个GPT模型。但反过来，云端再强，也解决不了实时性和隐私问题。

1.3 典型应用场景

1.3.1 智能家居

这个领域我最有发言权。我之前做过一个智能音箱项目，语音唤醒必须在本地完成。为什么？因为用户说「小爱同学」时，如果还要等云端响应，那体验就太差了。

智能家居的典型边缘AI应用：

• 语音唤醒/命令词识别：本地运行KWS（关键词检测）模型
• 人脸识别门锁：本地存储人脸特征，离线也能开锁
• 智能摄像头：本地检测人形/宠物，只上传告警片段
• 温控器：根据本地传感器数据，自动调节温度

这里有个坑，我曾经踩过。智能摄像头的人形检测，如果模型太复杂，芯片发热严重，夏天直接死机。后来我换成了MobileNet V2的轻量版，帧率从5fps降到3fps，但功耗从2W降到了0.5W，设备再也不烫了。

1.3.2 工业视觉

工业场景对边缘AI的需求，说白了就是「快、准、稳」。我参与过一个PCB缺陷检测项目，产线速度是每分钟120块板子，每块板子只有500ms的处理时间。

云端方案根本行不通——网络延迟加上排队时间，500ms根本不够。最后我们在工控机上部署了YOLOv5s模型，用TensorRT优化后，单帧推理时间压缩到80ms，加上图像采集和机械臂动作，刚好卡在500ms以内。

工业视觉的典型应用：

• 缺陷检测：实时检测产品表面划痕、脏污
• 尺寸测量：亚毫米级精度测量
• OCR识别：读取产品序列号、生产日期
• 安全监控：检测工人是否佩戴安全帽、进入危险区域

嗯，这里要注意。工业环境往往有粉尘、震动、高温。我见过一个项目，摄像头被油污糊住，模型直接罢工。后来加了自动清洁装置，才算解决问题。边缘AI不只是算法问题，硬件可靠性同样重要。

1.3.3 可穿戴设备

可穿戴设备是边缘AI最苛刻的战场。为什么？因为电池太小了。一个智能手表，电池容量也就200-400mAh，还要撑一整天。

我做过一个心率监测手环，需要在本地运行一个轻量级神经网络，实时分析PPG信号。模型大小必须控制在100KB以内，推理功耗低于1mW。你想想看，这有多难？

可穿戴设备的典型应用：

• 健康监测：心率、血氧、睡眠分析
• 运动识别：步态分析、动作计数
• 手势识别：通过加速度计识别手势
• 语音交互：本地语音命令识别

1.4 小结

这一章我们聊了边缘AI的基本概念。说白了，边缘AI就是让AI在本地跑起来，解决实时性、隐私和带宽问题。但代价是计算资源受限、功耗敏感。

我个人觉得，边缘AI和云端AI不是二选一，而是混合部署。关键任务在边缘，复杂任务上云端。这个思路，后面几章我们会反复用到。

下一章，咱们聊聊边缘AI的硬件选型。从MCU到NPU，到底该怎么选？到时候我会分享一些踩坑经历，保证让你少走弯路。