模型量化技术 · 从入门到精通

📚 30章 完整目录 v1.0
01
模型量化入门 基础
什么是量化、为什么需要量化、线性与非线性量化原理
02
量化基础概念 核心
定点数与浮点数、比特宽度、scale/zero-point
03
QAT原理 进阶
模拟量化、直通估计器STE、训练策略与技巧
04
PTQ原理 进阶
校准数据集、KL散度、Min-Max与Percentile
05
对称与非对称量化 对比
数学公式、适用场景、优缺点对比
06
量化粒度 粒度
逐层/逐通道/逐组/混合精度量化
07
整型与浮点量化 对比
INT8/INT4/FP16/BF16/FP8 选择
08
量化工具链概览 工具
TensorRT, ONNX Runtime, PyTorch, TFLite, OpenVINO
09
PyTorch量化实战(一) 实战
静态量化 Post-Training Static Quantization 完整流程
10
PyTorch量化实战(二) 实战
动态量化 & QAT实现
11
TensorRT量化实战 实战
INT8量化、校准器选择与配置
12
ONNX Runtime量化 实战
ORT量化、QDQ节点解析
13
TFLite量化 实战
模型转换、INT8/FP16量化选项
14
量化模型精度评估 评估
准确率、困惑度、BLEU、量化误差分析
15
量化模型性能评估 评估
延迟、吞吐量、模型大小、内存占用
16
量化常见问题 调优
精度下降、梯度消失、激活值分布异常
17
量化+稀疏化 结合
结构化剪枝+量化、非结构化剪枝+量化
18
量化+蒸馏 结合
知识蒸馏+量化、量化感知蒸馏
19
大语言模型量化 LLM
GPTQ, AWQ, SmoothQuant, LLM.int8()
20
LLM量化实战 LLM
AutoGPTQ量化LLaMA、推理与评估
21
视觉模型量化 CV
YOLO系列、ResNet、ViT量化
22
语音模型量化 语音
Wav2Vec2, Whisper量化实践
23
多模态模型量化 多模态
CLIP, BLIP量化挑战与方案
24
量化硬件适配 硬件
NVIDIA GPU, Intel CPU, ARM, NPU, TPU
25
量化部署流程 部署
模型导出→量化→验证→部署全链路
26
量化模型安全 安全
对抗攻击影响、鲁棒性分析
27
量化前沿技术 前沿
混合精度量化、HAQ、Q-BERT
28
量化标准与规范 标准
MLPerf量化基准、Open Standard
29
量化项目实战(一) 项目
从零构建量化推理引擎 (C++/Python)
30
量化项目实战(二) 项目
端到端量化部署生产级模型 (含监控与回滚)
📣 💬 专注资料整理 ⸻ 30章 · 量化从入门到精通 ⸻