4、唤醒词模型选型：基于DNN/CNN/RNN的唤醒模型、轻量化网络设计原则、模型参数量与算力评估
好，咱们进入第四讲。前面聊了麦克风阵列和信号处理，算是把耳朵给装上了。现在要聊的，是大脑——唤醒词模型本身。
说实话，模型选型这块，我踩过的坑比走过的路还多。早期做语音唤醒，大家一股脑往上堆参数，觉得层数越多越牛。结果呢？车机跑起来卡成PPT，用户喊破喉咙它才反应过来。嗯，这里要敲黑板：座舱场景下，模型选型的核心不是“准不准”，而是“快不快”和“小不小”。
4.1 三大主流模型架构：DNN、CNN、RNN
咱们先捋一遍三种主流架构。你想想看，它们就像三种不同的工具，各有各的脾气。
4.1.1 DNN（深度神经网络）—— 老黄牛，但别指望它跑得快
DNN是最基础的。说白了就是全连接层堆叠，每个神经元和上一层的所有神经元都连上。
优点：结构简单，容易理解，训练起来也快。
缺点：参数量爆炸。你想想，输入是40维的MFCC特征，第一层256个神经元，光这一层就是40×256+256=10496个参数。堆个三四层，几十万参数就出去了。而且DNN对时序信息不敏感，它把每一帧当成独立的点来处理。
4.1.2 CNN（卷积神经网络）—— 特征提取小能手
CNN在图像领域大杀四方，在语音里同样好用。它通过卷积核在时间轴和频率轴上滑动，提取局部特征。
我个人习惯把CNN用在唤醒词的前端特征提取上。比如用2D卷积处理语谱图，或者用1D卷积处理MFCC序列。CNN的参数量远小于DNN，因为卷积核是共享权重的。
举个例子：一个3×3的卷积核，只有9个参数，但它能覆盖整个输入。而DNN要覆盖同样区域，参数多得多。
4.1.3 RNN（循环神经网络）—— 时序建模的王者，但小心梯度消失
RNN天生就是处理序列数据的。它内部有“记忆”机制，能把上一帧的信息传递到下一帧。这对唤醒词来说太重要了——因为唤醒词本身就是一段连续的语音。
但RNN有个老毛病：梯度消失和梯度爆炸。早期的RNN很难学到长距离依赖。后来有了LSTM和GRU，才解决了这个问题。
我的建议：在座舱场景下，GRU比LSTM更实用。GRU参数少，计算快，效果和LSTM差不多。我曾经在某个项目中，把LSTM换成GRU，模型大小直接砍掉30%，推理速度提升20%，唤醒率只下降了0.5%。这买卖划算。
| 架构 | 参数量 | 时序建模能力 | 推理速度 | 适用场景 |
|---|---|---|---|---|
| DNN | 高 | 弱 | 快（但参数多时慢） | 简单关键词、低资源MCU |
| CNN | 中 | 中（依赖感受野） | 快 | 特征提取、轻量级唤醒 |
| RNN（GRU） | 低-中 | 强 | 中 | 长唤醒词、复杂噪声场景 |
4.2 轻量化网络设计原则
好，架构选完了，接下来要“瘦身”。座舱芯片资源有限，你不能指望每辆车都配个服务器。轻量化设计，说白了就是用最少的参数，干最多的活。
4.2.1 深度可分离卷积
这是MobileNet的核心思想。标准卷积同时处理空间和通道信息，而深度可分离卷积把它们拆开：先逐通道卷积，再逐点卷积。
你算算账：标准卷积的参数量是 K×K×C_in×C_out，深度可分离卷积是 K×K×C_in + C_in×C_out。当C_out很大时，后者参数量只有前者的1/8到1/10。
4.2.2 参数共享与权重复用
这个原则很简单：能共享的参数，绝不重复存储。比如CNN的卷积核是共享的，RNN的循环权重也是共享的。另外，可以用瓶颈结构——先降维再升维，中间用轻量级操作。
举个例子：一个标准的残差块，输入是128维，先降到32维，做3×3卷积，再升回128维。参数量从128×3×3×128=147456，降到128×1×1×32 + 32×3×3×32 + 32×1×1×128 = 4096+9216+4096=17408。你看，直接少了近90%。
4.2.3 量化与剪枝
模型训练完，别急着部署。先做量化：把FP32的权重转成INT8。精度损失通常不到1%，但模型大小直接缩到1/4，推理速度翻倍。
剪枝更狠：把那些接近0的权重直接砍掉。我做过一个实验，剪掉50%的权重，唤醒率只掉了0.3%。
4.3 模型参数量与算力评估
这部分是硬核的。你设计了一个模型，怎么知道它能不能跑在目标芯片上？
4.3.1 参数量（Params）
参数量就是模型里所有可训练参数的总数。单位通常是M（百万）。
怎么算？很简单：每一层的参数加起来。比如全连接层：输入维度×输出维度 + 偏置。卷积层：卷积核大小×输入通道×输出通道 + 偏置。
经验值：一个轻量级唤醒模型，参数量最好控制在500K以内。超过1M，在低端芯片上就有点吃力了。
4.3.2 计算量（FLOPs）
FLOPs是浮点运算次数。它比参数量更能反映模型的实际计算开销。
举个例子：一个3×3的卷积，输入是32通道，输出是64通道，特征图大小是10×10。那么FLOPs = 3×3×32×64×10×10 = 1,843,200。注意，这里通常只算乘法，不算加法。
我的经验：在座舱芯片上，单次推理的FLOPs最好控制在50M以内。超过100M，实时性就很难保证了。
| 芯片类型 | 典型算力（GOPS） | 推荐模型FLOPs | 唤醒延迟要求 |
|---|---|---|---|
| 低端MCU（如Cortex-M4） | 0.1-0.5 | <10M | <200ms |
| 中端DSP（如CEVA） | 1-5 | 10M-50M | <100ms |
| 高端SoC（如高通SA8155） | 10-50 | 50M-200M | <50ms |
4.3.3 内存占用
这个容易被忽略。模型推理时，不仅要存权重，还要存中间特征图。RNN的隐状态、CNN的每一层输出，都会占内存。
我遇到过最坑的一次：模型参数量只有300K，但推理时内存爆了。后来发现是中间特征图太大——输入是1秒的音频，16kHz采样，每帧40维MFCC，帧移10ms，一共100帧。第一层卷积输出128通道，特征图大小100×128，光这一层就占了100×128×4=51.2KB。堆个五六层，内存就上去了。
4.4 实战建议：如何选型
说了这么多，到底怎么选？我给出一个通用流程：
- 先定芯片：看目标芯片的算力和内存。低端MCU就别想RNN了，老老实实用DNN或轻量CNN。
- 再定唤醒词长度：2-3个音节，DNN够用。4-5个音节，考虑CNN+GRU。超过5个音节，建议用端到端的模型。
- 然后做基线：先用一个简单的DNN跑通流程，测一下延迟和唤醒率。这个基线很重要，后面所有优化都要跟它比。
- 最后迭代优化：先加CNN提特征，再加GRU建模时序，最后做量化和剪枝。每一步都要验证效果。
好了，这一讲就到这里。下一讲咱们聊聊训练数据的准备与增强——没有好数据，再好的模型也是白搭。