1、嵌入式AI概述：什么是嵌入式AI、边缘计算与AIoT、典型应用场景

大家好，我是你们这门课的主讲。今天咱们聊聊嵌入式AI的入门概念。说实话，这个领域这几年火得不行，但很多人一上来就被各种术语绕晕了。别急，咱们一步步来。

1.1 什么是嵌入式AI？

嵌入式AI，说白了就是把人工智能算法塞进那些资源受限的小芯片里。你想想看，传统的AI跑在云端，有强大的GPU、海量的内存。但嵌入式设备呢？可能只有几百KB的RAM，主频才几百MHz。我刚开始做这个方向时，也觉得这是「螺蛳壳里做道场」。

举个例子。你手机里的人脸解锁，就是典型的嵌入式AI。摄像头捕捉到你的脸，芯片在本地完成识别，整个过程不到0.1秒。数据不用上传云端，隐私也安全。嗯，这里要注意：嵌入式AI的核心就是在端侧完成推理，而不是依赖网络。

我在项目中遇到过不少新手，一上来就想把ResNet-152这种大模型往STM32上跑。结果呢？编译都过不了。所以，嵌入式AI不是简单地把模型移植过去，而是要经过剪枝、量化、蒸馏等一系列优化。这些后面章节会详细讲。

1.2 边缘计算与AIoT

聊完嵌入式AI，咱们再说说边缘计算和AIoT。这三个概念经常被混在一起，其实它们各有侧重。

边缘计算强调的是「计算发生在数据源头附近」。为什么要这么做？因为网络带宽有限，延迟受不了。我记得有个工业视觉的项目，摄像头每秒产生几十兆的数据。如果全部传到云端处理，网络先崩了。所以，边缘计算就是把计算能力下沉到靠近数据源的地方。

AIoT则是AI和IoT的结合。IoT设备负责采集数据，AI负责分析决策。你想想看，一个智能温控器，如果只是定时开关，那叫IoT。但如果它能学习你的生活习惯，自动调节温度，那就是AIoT了。

概念	核心	典型设备
嵌入式AI	在嵌入式设备上运行AI算法	MCU、NPU、DSP
边缘计算	在靠近数据源的位置处理数据	边缘网关、边缘服务器
AIoT	AI赋能物联网设备	智能音箱、智能摄像头

1.3 典型应用场景

理论说完了，咱们看看实际应用。我挑两个最常见的场景聊聊。

1.3.1 智能家居

智能家居是嵌入式AI最接地气的应用。你家里的智能音箱，为什么能听懂「关灯」和「把灯调暗一点」的区别？因为里面跑着语音识别模型。这个模型经过量化后，可能只有几百KB，但能在本地完成关键词唤醒。

我曾经踩过一个坑：智能门锁的人脸识别，在实验室里跑得好好的，一到用户家里就频繁误报。后来发现是光线变化导致的。所以，做嵌入式AI一定要考虑环境鲁棒性。后来我们在模型训练时加入了光照增强的数据，问题才解决。

智能家居常见的嵌入式AI功能：

• 语音唤醒与命令识别
• 人脸识别与活体检测
• 手势控制
• 异常声音检测（如玻璃破碎声）

1.3.2 工业视觉

工业视觉这块，我感触很深。以前工厂里的质检全靠人工，工人盯着流水线看一整天，眼睛都花了。现在用嵌入式AI，一个摄像头加一块边缘计算板卡，就能实时检测产品缺陷。

举个例子。某电子厂需要检测电路板上的焊点是否合格。传统方案是用工业相机拍照，传到PC端处理。但产线速度太快，每秒要检测几十个产品，PC端处理不过来。后来我们用了带有NPU的嵌入式板卡，直接在相机端完成推理，延迟从200ms降到了15ms。

工业视觉的典型应用：

• 表面缺陷检测（划痕、凹陷、脏污）
• 尺寸测量与定位
• OCR字符识别
• 目标检测与跟踪

1.4 为什么选择嵌入式AI？

你可能会问：既然云端AI那么强大，为什么还要费劲做嵌入式？原因有三：

1. 隐私保护：数据不出设备，避免隐私泄露风险。医疗影像、人脸数据尤其敏感。
2. 低延迟：本地推理没有网络传输延迟，适合自动驾驶、工业控制等场景。
3. 离线可用：没有网络也能正常工作。我做过一个农业项目，田里根本没信号，全靠嵌入式设备本地处理。

当然，嵌入式AI也有短板。模型精度通常不如云端大模型，升级维护也麻烦。但话说回来，很多场景并不需要99.9%的精度，90%就够用了。关键是在精度、功耗、成本之间找到平衡。

好了，这一章的内容就到这里。下一章咱们会深入聊聊嵌入式AI的硬件选型，包括MCU、MPU、NPU的区别，以及如何根据项目需求选择合适的芯片。到时候见。