1、边缘AI概述：什么是边缘AI、边缘AI vs 云端AI、典型应用场景

各位同学，咱们今天聊聊边缘AI。说实话，这个概念这几年火得不行，但很多人其实没搞明白它到底解决什么问题。我刚开始接触这个领域时，也踩过不少坑，今天就把我的理解分享给大家。

1.1 什么是边缘AI

边缘AI，说白了就是把人工智能算法部署在靠近数据源头的设备上，而不是把数据传到云端去处理。你想想看，一个摄像头拍到画面，直接在摄像头内部完成识别，这就是边缘AI。

我个人习惯把边缘AI拆成两个词理解：

• 边缘：指物理上靠近数据产生的地方，比如传感器、摄像头、智能音箱
• AI：指推理能力，也就是模型在本地运行，不依赖网络

我在项目中遇到过这样一个场景：客户想在工厂流水线上做质检，但网络环境很差，延迟动不动就几百毫秒。如果走云端，产品都过去了，结果还没出来。这就是边缘AI的典型需求——本地处理，实时响应。

1.2 边缘AI vs 云端AI

很多人问我：「边缘AI和云端AI到底选哪个？」我的回答是：看场景。没有绝对的好坏，只有合不合适。

我整理了一个对比表格，方便大家理解：

对比维度	边缘AI	云端AI
延迟	毫秒级（本地处理）	百毫秒到秒级（依赖网络）
隐私性	数据不出设备，安全性高	数据需上传，有泄露风险
算力	受限（MCU、NPU等）	几乎无限（GPU集群）
功耗	严格限制（电池供电）	无限制（数据中心供电）
模型复杂度	轻量级模型（MobileNet、TinyML）	大模型（ResNet、Transformer）
网络依赖	不依赖网络，离线可用	必须联网
维护成本	设备端OTA升级较复杂	云端集中管理，升级方便

嗯，这里要注意：边缘AI不是要取代云端AI。我见过很多团队一上来就想把所有东西都塞到边缘端，结果模型跑不动，功耗还爆炸。正确的做法是——能边缘做的就边缘做，需要云端协同的再上传。

1.3 典型应用场景

聊完概念，咱们看看实际落地。我挑三个最常见的场景来说：

1.3.1 智能家居

智能音箱、智能摄像头、智能门锁，这些设备现在基本都带AI能力。你喊一声「小爱同学」，它能在本地完成语音唤醒，而不是把录音传到云端。为什么？因为隐私和延迟。

我曾经帮一个客户优化智能门锁的人脸识别方案。最初他们用的是云端方案，每次开门要等2-3秒。用户反馈很差。后来我们改成边缘方案，在门锁的MCU上跑轻量级人脸模型，识别时间降到200毫秒以内。用户体验直接起飞。

智能家居场景的特点：

• 设备数量多，但单个设备算力有限
• 对功耗极其敏感（电池供电的设备）
• 隐私要求高（家里面的数据不能随便上传）

1.3.2 工业视觉

这是边缘AI目前最赚钱的领域之一。工厂里的质检、分拣、缺陷检测，都需要实时处理。你想想看，一条产线每分钟过100个产品，每个产品都要拍照、分析、判断。如果走云端，网络抖动一下，产线就得停。

我记得有个做PCB板检测的项目，客户要求检测速度在50毫秒以内。我们用的是树莓派加一个USB摄像头，跑一个轻量级的YOLO模型。刚开始模型太大，推理时间要120毫秒。后来通过模型剪枝和量化，硬生生压到了45毫秒。嗯，这就是边缘AI工程师的日常——跟毫秒较劲。

1.3.3 可穿戴设备

智能手表、手环、AR眼镜，这些设备对功耗和体积的要求更苛刻。你不可能在手表上装一个GPU吧？所以可穿戴设备的AI，通常是在MCU或者超低功耗的NPU上跑。

举个例子，Apple Watch的心率监测、跌倒检测，都是在本地完成的。为什么？因为如果每次检测都要联网，那手表一天得充三次电。

可穿戴设备的特点：

• 算力极低（通常是ARM Cortex-M系列）
• 内存极小（几十KB到几MB）
• 功耗要求极高（mW级别）
• 模型必须极致轻量化

我最近在做一个智能手环的睡眠监测项目。模型只有32KB，推理一次只需要5毫秒，功耗控制在0.5mW以内。你想想看，这跟云端动辄几百MB的大模型比起来，完全是两个世界。

1.4 小结

好了，第一章的内容就这些。总结一下：

• 边缘AI的核心是「本地推理、实时响应」
• 边缘AI和云端AI不是对立关系，而是互补关系
• 典型场景包括智能家居、工业视觉、可穿戴设备，每个场景对算力、功耗、内存的要求都不一样

下一章我会深入讲边缘AI的内存管理策略。说实话，这块才是真正的硬骨头。很多项目做不起来，不是因为模型不够准，而是因为内存不够用。咱们下节课见。