第01章
量化技术概述
什么是模型量化、为什么需要量化、量化的数学原理（映射与反量化）、量化带来的收益与挑战。
基础数学原理
第02章
量化精度与数据类型
FP32、FP16、BF16、INT8、INT4 数据格式详解、精度与动态范围对比、选择数据类型的考量因素。
数据类型精度
第03章
对称量化与非对称量化
对称量化原理与公式、非对称量化原理与公式、零点（Zero Point）的作用、两种方案的优缺点对比。
对称非对称零点
第04章
量化粒度
逐层量化（Per-Tensor）、逐通道量化（Per-Channel）、逐组量化（Per-Group）、不同粒度的精度与计算开销权衡。
粒度Per-Channel
第05章
权重量化与激活量化
权重量化的特点与挑战、激活量化的特点与挑战、静态量化 vs 动态量化、混合精度量化的思路。
权重激活混合精度
第06章
训练后量化（PTQ）
PTQ 的基本流程、校准数据集的选择、校准方法（MinMax、Histogram、KL散度）、PTQ 的优缺点。
PTQ校准
第07章
量化感知训练（QAT）
QAT 的基本原理、直通估计器（STE）、伪量化节点（Fake Quantize）、QAT 的训练流程与调参技巧。
QATSTE
第08章
权重与激活的分布分析
如何分析权重分布、如何分析激活分布、异常值（Outlier）对量化的影响、常见的分布形状与量化策略。
分布异常值
第09章
KL散度校准方法
KL散度的数学定义、在量化中的应用原理、如何选择最优的截断阈值（Threshold）、实战经验与注意事项。
KL散度截断
第10章
MinMax 与 Histogram 校准
MinMax 校准的简单与风险、Histogram 校准的统计优势、两种方法的对比与适用场景。
MinMax直方图
第11章
大模型特有的量化挑战
大模型参数规模带来的校准困难、激活异常值（如 LLM 中的 outlier feature）、序列长度对激活分布的影响。
大模型异常值
第12章
SmoothQuant 技术
SmoothQuant 的核心思想、数学推导与迁移难度、如何平滑激活与权重、在 Transformer 中的应用。
SmoothQuant平滑
第13章
LLM.int8() 技术
混合精度分解的思路、离群值分离策略、矩阵乘法的混合精度实现、在 BLOOM、LLaMA 上的效果。
LLM.int8混合精度
第14章
GPTQ 技术
GPTQ 的逐层量化思想、最优脑量化（OBQ）原理、GPTQ 的贪心算法与 Hessian 矩阵、代码实现与效果评估。
GPTQOBQ
第15章
AWQ 技术
AWQ 的激活感知思想、如何寻找重要权重通道、权重缩放因子的确定、AWQ 与 GPTQ 的对比。
AWQ激活感知
第16章
NF4 与 QLoRA 技术
NF4 数据类型的原理、分位数量化、双重量化（Double Quantization）、QLoRA 的微调流程与显存节省。
NF4QLoRA
第17章
GGML 与 GGUF 格式
GGML 的诞生背景、GGUF 的改进点、量化格式（q4_0, q4_1, q5_0, q8_0 等）详解、在 llama.cpp 中的应用。
GGMLGGUFllama.cpp
第18章
KV Cache 量化
KV Cache 的存储瓶颈、KV Cache 量化的挑战、INT8 与 FP8 量化 KV Cache、主流方案（如 KIVI）介绍。
KV CacheKIVI
第19章
FP8 量化技术
FP8 的 E4M3 与 E5M2 格式、FP8 在训练与推理中的应用、NVIDIA H100 对 FP8 的支持、FP8 量化的精度表现。
FP8E4M3H100
第20章
混合精度推理
不同层使用不同精度的策略、敏感层识别方法、自动化混合精度搜索、在推理引擎中的实现。
混合精度敏感层
第21章
量化工具与框架
PyTorch 量化工具包（torch.quantization）、TensorRT 量化流程、ONNX Runtime 量化、llama.cpp 的量化支持。
PyTorchTensorRTONNX
第22章
量化模型的精度评估
评估指标（PPL、Accuracy、BLEU 等）、如何设计公平的评估基准、量化模型的退化分析、常见陷阱与误区。
评估PPL基准
第23章
量化模型的推理加速
量化对计算瓶颈的影响、INT8/INT4 矩阵乘法的硬件加速、内存带宽节省与吞吐量提升、实际加速比案例分析。
加速吞吐量
第24章
量化与稀疏化的结合
结构化与非结构化剪枝、量化与剪枝的联合优化、2:4 稀疏与 INT8 量化的组合、实际部署中的收益。
稀疏剪枝2:4
第25章
量化与蒸馏的结合
知识蒸馏的基本原理、量化感知蒸馏（QAD）、蒸馏与量化的协同训练、在 BERT 等模型上的实践。
蒸馏QAD
第26章
边缘设备上的量化部署
边缘设备的算力与内存限制、TFLite 与 NCNN 的量化支持、端侧大模型的量化挑战、模型大小与精度的平衡。
边缘TFLiteNCNN
第27章
量化模型的硬件适配
不同硬件（CPU、GPU、NPU、TPU）对量化的支持差异、指令集（如 VNNI、DP4a）的作用、硬件友好的量化策略。
硬件VNNIDP4a
第28章
量化技术的最新进展
AQLM（Additive Quantization of Language Models）、QuIP（Quantization with Incoherence Processing）、BitNet 与 1-bit 模型、未来趋势展望。
AQLMQuIPBitNet
第29章
量化实战案例（一）
以 LLaMA-7B 为例的 PTQ 全流程、校准数据准备、精度调优、推理部署与性能测试。
实战LLaMA-7BPTQ
第30章
量化实战案例（二）
以 LLaMA-7B 为例的 QAT 全流程、伪量化节点插入、训练超参设置、与 PTQ 结果的对比分析。
实战QAT对比