量化感知训练与模型压缩 · 实战课程目录

01

量化感知训练入门

QAT定义与PTQ区别核心优势

02

量化基础回顾

线性/非线性对称/非对称scale/zero_point

03

QAT伪量化节点

FakeQuantize前反向传播直通估计器STE

04

QAT训练流程

预训练模型插入伪量化微调导出

05

PyTorch QAT实战(一)

环境搭建ResNet18手动FakeQuantize

06

PyTorch QAT实战(二)

torch.quantizationfbgemm/qnnpack

07

PyTorch QAT实战(三)

训练循环学习率调整损失观察

08

PyTorch QAT实战(四)

FP32 vs INT8导出torchscript

09

TensorFlow QAT实战(一)

TF Model OptMobileNetV2

10

TensorFlow QAT实战(二)

tfmot.quantization训练评估

11

TensorFlow QAT实战(三)

TFLite导出Android部署

12

BN处理Frozen BN案例分析

13

QAT激活函数处理

ReLU/ReLU6/SwishPReLU挑战

14

QAT跨层融合

Conv+BN+ReLU融合误差分析

15

QAT超参数调优

学习率训练轮数正则化

16

QAT+知识蒸馏

教师/学生蒸馏损失实战

17

QAT在NLP应用

BERT量化Transformer精度恢复

18

YOLO语义分割关键点检测

19

模型剪枝入门

结构化/非结构化剪枝粒度评价指标

20

PyTorch剪枝实战(一)

nn.utils.prune非结构化剪枝掩码

21

PyTorch剪枝实战(二)

通道剪枝L1范数微调

22

PyTorch剪枝实战(三)

自定义剪枝SNIP剪枝+量化

23

TensorFlow剪枝实战

tfmot.sparsity多项式衰减导出稀疏模型

24

模型蒸馏入门

软/硬标签温度TKL散度

25

PyTorch蒸馏实战(一)

蒸馏框架教师/学生损失计算

26

PyTorch蒸馏实战(二)

多教师蒸馏自蒸馏在线/离线

27

综合实战(一)

项目背景压缩策略管线制定

28

综合实战(二)

剪枝+QAT+蒸馏精度/大小记录

29

综合实战(三)

ONNX导出TensorRT边缘部署

30

前沿与总结

混合精度量化HAQ/SPIQ学习资源