1. 边缘AI概述：什么是边缘AI、边缘AI vs 云端AI、边缘AI的典型应用场景
大家好，我是你们这门课的老朋友。今天咱们正式开篇，聊聊边缘AI到底是个啥。
说实话，我最早接触边缘AI是在2017年。那时候我还在做智能摄像头项目，云端推理延迟高得离谱，客户投诉不断。后来被逼着把模型塞进设备端，嘿，效果出奇的好。从那以后，我就彻底入了边缘AI的坑。
1.1 什么是边缘AI
边缘AI，说白了就是在靠近数据源头的地方运行人工智能算法。不是把数据传到云端去算，而是在摄像头、手机、传感器这些设备上直接做推理。
你想想看，传统AI的流程是：设备采集数据 → 上传云端 → 云端推理 → 返回结果。这一来一回，少说几百毫秒。边缘AI呢？数据在本地处理，结果实时输出。
核心定义：边缘AI = 边缘计算 + 人工智能。在资源受限的边缘设备上部署和运行机器学习模型，实现低延迟、高隐私、低带宽的智能处理。
我个人习惯把边缘AI分成三个层次：
- 端侧AI：直接在传感器或微控制器上运行，比如智能手表的心率监测
- 边缘节点AI：在网关或边缘服务器上运行，比如工厂里的智能工控机
- 边缘云AI：在靠近用户的边缘数据中心运行，比如5G基站里的推理服务
我在项目中遇到过不少新手，一上来就想把大模型塞进单片机。嗯，这里要注意——边缘设备的算力、内存、功耗都是硬约束。你不可能在1块钱的芯片上跑GPT，对吧？
1.2 边缘AI vs 云端AI
很多人问我：边缘AI是不是要取代云端AI？我的回答是：两者是互补关系，不是替代关系。
咱们直接看对比：
| 对比维度 | 边缘AI | 云端AI |
|---|---|---|
| 延迟 | 毫秒级（1-10ms） | 百毫秒级（100-500ms） |
| 隐私性 | 数据不出设备，高隐私 | 数据上传，存在隐私风险 |
| 带宽需求 | 低，只传输结果或异常 | 高，需传输原始数据 |
| 算力资源 | 受限（CPU/GPU/NPU） | 充裕（集群/GPU阵列） |
| 模型复杂度 | 轻量级模型（MobileNet、TinyML） | 大模型（ResNet、Transformer） |
| 功耗 | 低（mW级） | 高（kW级） |
| 网络依赖 | 不依赖，离线可用 | 强依赖，断网即失效 |
| 更新维护 | OTA升级，较复杂 | 服务端更新，较简单 |
我的经验：选边缘还是云端，看三个指标——延迟要求、隐私等级、网络条件。如果三者中任意一个要求苛刻，优先考虑边缘AI。
举个例子。我曾经做过一个工业质检项目，要求检测速度在50ms以内。云端方案根本做不到，因为网络抖动就干掉30ms。最后我们用了边缘AI，在工控机上部署轻量级YOLO，推理时间稳定在15ms。客户很满意。
但反过来，如果你要做大模型训练、海量数据挖掘，那还是得靠云端。边缘AI负责实时推理，云端AI负责训练和复杂分析，各司其职。
1.3 边缘AI的典型应用场景
聊完概念，咱们看看实际落地。我挑三个最典型的场景说说。
1.3.1 智能家居
智能家居是边缘AI最贴近生活的应用。你家里的智能音箱、智能摄像头、扫地机器人，其实都在跑边缘AI。
- 语音唤醒：设备本地检测唤醒词，不用每次都上传云端。我做过测试，本地唤醒延迟在200ms以内，云端方案要800ms以上
- 人脸识别门锁：本地存储特征库，离线也能开锁。隐私数据不出家门
- 智能安防：摄像头本地检测异常行为，只上传告警片段。带宽节省90%以上
避坑指南：我曾经在智能门锁项目上踩过坑——本地模型精度不够，导致误识别率高达5%。后来通过模型量化+知识蒸馏，把误识别率降到了0.5%以下。记住，边缘AI的模型精度和云端比肯定有差距，关键是要找到可接受的阈值。
1.3.2 工业视觉
工业视觉是我个人觉得边缘AI最有价值的场景。工厂里产线跑得飞快，数据量巨大，根本不可能全传云端。
- 缺陷检测：PCB板、手机屏幕、汽车零部件，实时检测划痕、脏污、缺件。我见过一条产线每秒检测30个产品，每个产品要分析200万像素
- OCR识别：读取产品上的字符、条码、二维码。边缘设备本地识别，即时反馈
- 动作识别：检测工人操作是否规范，有没有戴安全帽、穿防护服
我记得有个汽车零部件厂的项目，他们之前用人工目检，漏检率3%。换成边缘AI视觉检测后，漏检率降到0.1%，而且速度提升了5倍。你想想看，这背后省了多少成本。
1.3.3 自动驾驶
自动驾驶可能是边缘AI最极致的应用。为什么？因为延迟就是生命。
一辆时速120公里的车，每秒跑33米。如果云端推理延迟100ms，车已经跑了3.3米。这3.3米可能就是生与死的距离。
- 目标检测：识别行人、车辆、交通标志。要求推理时间在30ms以内
- 路径规划：实时计算最优行驶路线。边缘设备本地完成
- 传感器融合：融合摄像头、激光雷达、毫米波雷达数据。数据量巨大，必须本地处理
关键数据：一辆L4级自动驾驶汽车，每秒产生约1GB的传感器数据。如果全部上传云端，5G网络也扛不住。所以99%的数据必须在车端本地处理，只有高置信度的决策结果才需要上传。
我参与过一个自动驾驶的模型优化项目。当时我们用的模型是ResNet-50，在车端Jetson Orin上推理需要80ms。后来通过模型剪枝、INT8量化，把推理时间压缩到了25ms。嗯，这个过程很痛苦，但结果很值得。
1.4 小结
这一章咱们聊了边缘AI的基本概念。总结三点：
- 边缘AI是在设备端本地运行AI，核心优势是低延迟、高隐私、省带宽
- 边缘AI和云端AI是搭档，不是对手。边缘做实时推理，云端做训练和复杂分析
- 三大典型场景：智能家居、工业视觉、自动驾驶。每个场景对延迟、精度、功耗的要求都不一样
下一章，咱们会深入聊聊边缘AI的硬件选型。你会看到各种芯片——从几块钱的MCU到几千块的GPU，到底该怎么选？到时候我把我踩过的坑都告诉你。
好，今天就到这儿。有问题随时交流。