01
量化基础回顾
什么是模型量化?量化的类型(PTQ与QAT)、量化精度损失的根源分析。
PTQQAT精度损失
02
精度回退问题诊断
如何定位精度回退层?使用校准集进行逐层误差分析。
逐层分析校准集
03
敏感层识别技术
基于KL散度的敏感层筛选、基于余弦相似度的敏感层筛选。
KL散度余弦相似度
04
混合精度量化策略
什么是混合精度量化?如何为敏感层分配更高精度(FP16/INT8混合)。
混合精度FP16INT8
05
量化感知训练(QAT)入门
QAT原理、在PyTorch中实现QAT的完整流程。
QATPyTorch
06
QAT调参实战
学习率调整、BN层冻结技巧、训练轮次对精度的影响。
学习率BN冻结
07
逐通道量化
原理、适用场景、与逐层量化的对比。
Per-channel逐层
08
对称量化与非对称量化
数学原理、选择策略、实际效果对比。
对称非对称
09
校准方法优化
校准集大小选择、校准算法(MinMax、Histogram、Entropy)对比。
MinMaxHistogramEntropy
10
量化后微调
轻量级修复方法、仅微调BN层。
微调BN层
11
知识蒸馏辅助修复
教师模型选择、蒸馏损失设计、温度参数调优。
知识蒸馏温度
12
激活值异常处理
Clip操作、激活值截断策略、异常值检测。
Clip截断
13
权重异常处理
权重范围分析、权重裁剪、权重正则化。
裁剪正则化
14
逐层精度回退
逐层回退到FP32的策略、自动回退工具实现。
FP32自动回退
15
基于搜索的混合精度
AutoML搜索混合精度配置、硬件约束下的搜索。
AutoML硬件约束
16
量化噪声分析
量化噪声模型、信噪比(SNR)与精度的关系。
噪声SNR
17
批归一化融合与量化
BN融合原理、融合后量化注意事项。
BN融合量化
18
残差连接量化修复
残差分支的量化策略、加法操作的量化。
残差加法量化
19
注意力机制量化修复
Softmax量化难点、QKV量化的特殊处理。
SoftmaxQKV
20
卷积层量化修复
Depthwise卷积量化、分组卷积量化。
Depthwise分组卷积
21
全连接层量化修复
大矩阵乘法的量化、累加器精度管理。
矩阵乘法累加器
22
Embedding层量化修复
词嵌入量化的挑战、查找表量化。
Embedding查找表
23
多任务模型量化修复
共享Backbone的量化、任务特定头的精度平衡。
多任务Backbone
24
检测模型量化修复
NMS的量化兼容性、Bounding Box回归的精度。
NMSBBox
25
分割模型量化修复
上采样层量化、逐像素分类的精度。
上采样逐像素
26
Transformer模型量化修复
LayerNorm量化、GELU激活函数量化。
LayerNormGELU
27
LLM(大语言模型)量化修复
GPTQ原理、AWQ原理、SmoothQuant技术。
GPTQAWQSmoothQuant
28
硬件适配与精度验证
不同硬件(GPU/CPU/NPU)的量化行为差异、精度验证流程。
GPUCPUNPU
29
自动化精度修复工具链
构建自动化Pipeline、回归测试、CI/CD集成。
PipelineCI/CD
30
综合案例实战
从ResNet50到MobileNet的量化修复全流程、精度报告生成。
ResNet50MobileNet精度报告