第一章：ARM Cortex-M与CNN基础
各位同学好，我是你们这门课的老张。做嵌入式AI部署有些年头了，踩过的坑比你们吃过的盐还多（笑）。今天咱们先打好地基，聊聊Cortex-M系列处理器和CNN的那些事儿。
说实话，很多人一上来就想着怎么把模型跑起来，结果连芯片的脾气都没摸透。我刚开始做Cortex-M上的AI部署时，就犯过这个毛病。嗯，咱们慢慢来。
1.1 Cortex-M系列处理器特点
Cortex-M系列，说白了就是ARM专门为微控制器设计的处理器核。跟你们手机里的Cortex-A系列不一样，它不跑Linux，不搞虚拟内存，追求的是实时、低功耗、低成本。
我个人习惯把Cortex-M分成三代：
| 系列 | 代表型号 | 特点 | 适用场景 |
|---|---|---|---|
| M0/M0+ | STM32F0 | 超低功耗，指令集精简 | 传感器节点，简单控制 |
| M3/M4 | STM32F4 | 性能均衡，带DSP指令 | 电机控制，音频处理 |
| M7 | STM32H7 | 高性能，带双精度FPU | 复杂算法，初步AI |
你想想看，M0跑在几十兆赫兹，M7能跑到400MHz以上。但做CNN部署，光看主频没用。我在项目中遇到过，同样的卷积运算，M4因为有DSP指令，比M3快了将近3倍。这就是指令集的重要性。
核心要点：Cortex-M做AI，拼的不是主频，而是指令集效率和内存带宽。M4/M7的DSP指令和SIMD（单指令多数据）能力，才是关键。
1.2 卷积神经网络基本结构
CNN这东西，说白了就是模仿人眼看东西的方式。你看到一张猫的图片，大脑不会去分析每个像素，而是先看轮廓、再看纹理、最后组合成猫。CNN也是这个逻辑。
一个典型的CNN包含三种层：
卷积层
这是CNN的核心。用一个小窗口（卷积核）在输入图像上滑动，每次做点乘运算。我刚开始学的时候，总觉得这跟图像处理里的滤波差不多。确实，本质上就是加权求和。
举个例子，一个3x3的卷积核：
输入图像（5x5）：
[1 2 3 4 5]
[6 7 8 9 0]
[1 2 3 4 5]
[6 7 8 9 0]
[1 2 3 4 5]
卷积核（3x3）：
[1 0 -1]
[1 0 -1]
[1 0 -1]
输出第一个像素 = 1*1 + 2*0 + 3*(-1) + 6*1 + 7*0 + 8*(-1) + 1*1 + 2*0 + 3*(-1)
= 1 + 0 - 3 + 6 + 0 - 8 + 1 + 0 - 3
= -6嗯，这里要注意，实际部署时我们不会这么傻算。后面会讲如何用DSP指令加速。
池化层
池化层的作用，说白了就是降采样。把图像缩小，保留主要特征，丢掉次要细节。最常见的两种：
- 最大池化：取窗口内的最大值。我习惯用这个，因为它能保留最显著的特征。
- 平均池化：取窗口内的平均值。平滑效果更好，但特征不够突出。
我曾经在一个手势识别项目里，因为用了平均池化，导致模型对细微手势变化不敏感。换成最大池化后，准确率直接提升了5%。
全连接层
全连接层就是传统的神经网络层。每个输入节点都连接到每个输出节点。说白了，就是把前面提取的特征综合起来，做最终分类。
避坑指南：全连接层参数最多，占内存最大。在Cortex-M上，我建议尽量用全局平均池化代替全连接层。我曾经有个模型，全连接层占了80%的参数，换成全局平均池化后，模型大小从2MB降到了400KB，精度只掉了0.3%。
1.3 量化与定点数基础概念
为什么要在Cortex-M上做量化？原因很简单：Cortex-M没有硬件浮点单元（或者只有单精度），跑浮点运算太慢了。而且浮点数占4个字节，模型大了放不下。
量化的本质，就是用整数代替浮点数。我给你们看个例子：
浮点数：0.123456789
定点数（Q8.8格式）：0.123456789 * 256 ≈ 31.6 → 取整为32
反量化：32 / 256 = 0.125你看，精度损失了，但换来的是速度和内存的节省。在Cortex-M上，这买卖划算。
定点数格式
常用的定点数格式有：
| 格式 | 说明 | 数值范围 | 精度 |
|---|---|---|---|
| Q7.8 | 1位符号，7位整数，8位小数 | -128 ~ 127.996 | 0.0039 |
| Q8.8 | 1位符号，8位整数，8位小数 | -256 ~ 255.996 | 0.0039 |
| Q4.12 | 1位符号，4位整数，12位小数 | -16 ~ 15.9997 | 0.00024 |
我个人习惯用Q8.8格式做卷积运算。为什么？因为M4的DSP指令正好支持16位整数乘法，Q8.8刚好能用两个16位整数表示，运算效率最高。
小技巧：量化时要注意数值范围。如果激活值范围在[-1, 1]之间，用Q1.14格式更合适。我一般会先跑一遍模型，统计每层的数值分布，再决定量化参数。这叫"校准"，后面会详细讲。
量化误差
量化必然带来误差。主要有两种：
- 截断误差：数值超出表示范围，直接截断。比如Q8.8最大只能表示255.996，256就变成255了。
- 舍入误差：小数部分被舍去。比如0.123456789变成0.125，差了0.0015。
我曾经有个语音识别模型，量化后准确率从95%掉到了82%。查了半天，发现是某个中间层的激活值范围特别大，截断误差累积导致的。后来改用非对称量化，给每层单独设置量化参数，才把准确率拉回到93%。
本章小结
好了，第一章的内容就这些。咱们回顾一下：
- Cortex-M系列各有特点，M4/M7适合做AI部署
- CNN由卷积层、池化层、全连接层组成，每层都有优化空间
- 量化是Cortex-M上部署CNN的关键技术，用定点数代替浮点数
下一章，咱们会深入讲如何在Cortex-M上实现高效的卷积运算。到时候我会手把手教你们写汇编代码，用DSP指令加速。嗯，做好准备，那才是真正硬核的部分。
记住一句话：在嵌入式AI的世界里，没有银弹。每个优化都要根据具体芯片和模型来调整。多动手，多踩坑，慢慢就有感觉了。