一、量化技术全景图：什么是模型量化？为什么需要量化？
大家好，我是你们这趟量化之旅的向导。今天咱们来聊聊模型量化这个事儿。
说实话，我第一次接触量化是在三年前。当时公司要把一个BERT模型部署到手机端，模型太大，跑不动。领导丢给我一句话：「想办法把模型变小，精度别掉太多。」我查了一周资料，才搞明白量化这玩意儿。
嗯，今天我就把当时踩过的坑、总结的经验，一次性讲给你听。
1.1 什么是模型量化？
模型量化，说白了就是「降精度」。
你想想看，深度学习模型里存的参数，默认都是32位浮点数（FP32）。每个数占4个字节。一个BERT-base模型有1.1亿参数，光参数就占440MB。手机端根本扛不住。
量化要做什么？就是把FP32的数值，映射到更小的数据类型上。比如INT8（8位整数），每个数只占1个字节。模型体积直接缩到原来的1/4。
我在项目中遇到过最极端的案例：一个图像分类模型，从FP32量化到INT4，体积缩小了8倍，精度只掉了0.3%。当时团队都惊了。
1.2 为什么需要量化？
这个问题其实很实在。我总结三个核心原因：
- 模型体积缩小：FP32→INT8，体积缩到1/4。部署到移动端、边缘设备，这是刚需。
- 推理速度提升：INT8的运算比FP32快2-4倍。特别是手机端的NPU、GPU，对INT8有硬件加速。
- 功耗降低：低精度运算功耗更低。你想想看，自动驾驶芯片跑在车上，功耗每降低1瓦，都是巨大的优势。
我曾经帮一个客户优化语音识别模型。量化前，模型在手机上推理一次要800ms，卡得不行。量化到INT8后，降到120ms。用户反馈「终于能用了」。这就是量化的价值。
1.3 量化的数学原理
好，接下来是硬核部分。咱们把数学原理讲清楚。
量化的本质就是一个映射：把浮点数范围映射到整数范围。
1.3.1 对称量化 vs 非对称量化
这两种方式，我分别讲清楚。
对称量化：
浮点数的范围关于0对称。比如[-6.0, 6.0]，映射到INT8的[-128, 127]。0映射到0。
公式很简单：
量化值 = round(浮点值 / 缩放因子)
反量化：浮点值 = 量化值 * 缩放因子缩放因子 = 浮点数最大值 / 127（INT8正半轴最大值）
非对称量化：
浮点数范围不一定关于0对称。比如[2.0, 10.0]。这时候需要引入零点（zero point）。
量化值 = round(浮点值 / 缩放因子 + 零点)
反量化：浮点值 = (量化值 - 零点) * 缩放因子缩放因子 = (浮点数最大值 - 浮点数最小值) / 255（INT8全范围）
零点 = round(-浮点数最小值 / 缩放因子)
我个人习惯：如果数据分布接近0对称（比如权重），用对称量化。如果数据分布明显偏移（比如激活值），用非对称量化。
1.3.2 缩放因子与零点
这两个参数是量化的核心。我详细说说。
缩放因子（Scale）：
它决定了浮点数到整数的「步长」。缩放因子越小，量化精度越高。
举个例子：
| 浮点数范围 | 缩放因子 | 量化精度 |
|---|---|---|
| [-10.0, 10.0] | 10/127 ≈ 0.0787 | 每个量化步长代表0.0787 |
| [-5.0, 5.0] | 5/127 ≈ 0.0394 | 每个量化步长代表0.0394（精度更高） |
零点（Zero Point）：
零点是非对称量化特有的。它确保浮点数0能精确映射到整数。
为什么重要？因为很多神经网络运算中，0有特殊意义（比如ReLU的输出）。如果0映射不准，误差会累积。
1.4 量化知识体系全景图
下面我用一张SVG图，把本章的核心逻辑串起来。你一看就明白。
1.5 量化精度与模型精度的权衡
这里有个很现实的问题：量化一定会掉精度吗？
不一定。我见过很多模型量化后精度几乎不变，甚至个别任务还略有提升（因为量化相当于加了一点正则化）。
但大多数情况下，量化会带来精度损失。损失多少？取决于几个因素：
- 量化位宽：INT8损失小，INT4损失大，INT2基本不可用
- 模型类型：CNN对量化比较鲁棒，Transformer稍微敏感
- 数据分布：分布均匀的模型量化效果好，分布极端的容易出问题
- 量化方法：PTQ（训练后量化）简单但精度损失大，QAT（量化感知训练）精度高但需要重新训练
1.6 本章小结
好，咱们把第一章的内容捋一遍：
- 量化就是把FP32模型变成INT8等低精度模型，缩小体积、加速推理、降低功耗
- 对称量化适合0对称的数据，非对称量化适合偏移的数据
- 缩放因子决定量化步长，零点确保0的精确映射
- 量化精度和模型精度需要权衡，根据实际场景选择PTQ或QAT
嗯，第一章就到这里。这些基础概念搞清楚了，后面讲PTQ和QAT实战的时候，你才不会懵。
公众号:蓝海资料掘金营，微信deep3321