4、校准方法（上）：MinMax校准法原理与实现

说到模型量化，校准这一步是绕不开的。说白了，校准就是给模型里的权重和激活值找一个合适的「数值范围」，然后才能把它们从 FP32 映射到 INT8 或者更低比特。

我个人习惯把校准比作「量体裁衣」。你想想看，同样的数据，有的人用最大值最小值去定范围，有的人用百分位去截断，出来的效果天差地别。今天咱们先聊最基础、最直观的一种——MinMax 校准法。

MinMax 校准法的核心思想

MinMax 的思路极其简单：统计出张量在整个推理过程中的最大值和最小值，然后用这个区间去做量化映射。

公式长这样：

scale = (max_val - min_val) / (Qmax - Qmin)
zero_point = Qmin - min_val / scale

其中 Qmax 和 Qmin 是量化后的整数范围，比如 INT8 就是 -128 和 127。

嗯，这里要注意：MinMax 校准法不需要任何额外的训练数据。你只需要跑一遍推理，把每层的输入输出都记录下来，找到全局的 min 和 max 就行。

我在项目中遇到过一种情况：有些工程师觉得 MinMax 太简单，直接拿预训练模型的权重统计一下就去量化了。结果呢？精度掉得一塌糊涂。为什么？因为权重分布和激活分布是两码事。权重的值通常比较集中，但激活值可能会有离群点。

校准数据集的选择

MinMax 校准虽然不需要训练，但需要一小部分「校准数据」。我建议你从训练集中随机抽取 100~500 个样本就够了。

选校准数据有个坑——数据分布要覆盖真实场景。我曾经有一次做图像分类模型的量化，随手拿了 200 张全是纯色背景的图片去校准。结果模型上线后，遇到真实场景的图片，激活值直接溢出，推理结果全乱套了。

所以我的经验是：

• 分类任务：每个类别至少抽 5~10 张
• 检测任务：覆盖不同尺寸、不同光照条件的样本
• NLP 任务：覆盖不同长度的句子

代码实现：手写一个 MinMax 校准器

光说不练假把式。咱们直接上代码。我习惯用 PyTorch 的 hook 机制来收集激活值，这样不用改模型结构。

import torch
import torch.nn as nn

class MinMaxCalibrator:
    def __init__(self, model, calib_loader):
        self.model = model
        self.calib_loader = calib_loader
        self.activation_stats = {}  # 存储每层的 min/max

    def _hook_fn(self, name):
        def hook(module, input, output):
            # 只收集激活值，不收集权重
            if isinstance(output, torch.Tensor):
                if name not in self.activation_stats:
                    self.activation_stats[name] = {
                        'min': output.min().item(),
                        'max': output.max().item()
                    }
                else:
                    # 更新全局 min/max
                    self.activation_stats[name]['min'] = min(
                        self.activation_stats[name]['min'],
                        output.min().item()
                    )
                    self.activation_stats[name]['max'] = max(
                        self.activation_stats[name]['max'],
                        output.max().item()
                    )
        return hook

    def calibrate(self):
        # 注册 hook 到所有层
        handles = []
        for name, module in self.model.named_modules():
            if isinstance(module, (nn.Conv2d, nn.Linear, nn.ReLU)):
                handle = module.register_forward_hook(self._hook_fn(name))
                handles.append(handle)

        # 跑一遍校准数据
        self.model.eval()
        with torch.no_grad():
            for batch in self.calib_loader:
                if isinstance(batch, (list, tuple)):
                    inputs = batch[0]
                else:
                    inputs = batch
                self.model(inputs)

        # 移除 hook
        for handle in handles:
            handle.remove()

        return self.activation_stats

这段代码干了三件事：

1. 给每个 Conv2d、Linear、ReLU 层注册 forward hook
2. 跑一遍校准数据，收集每层输出的 min 和 max
3. 返回统计结果，供后续量化使用

你可能会问：为什么只收集激活值？权重呢？

权重其实可以直接从模型参数里读，不需要校准。但激活值依赖于输入数据，必须通过校准来统计。

MinMax 的优缺点分析

优点	缺点
实现简单，零学习成本	对离群点极其敏感
不需要调参，一次跑通	量化后的有效精度可能很低
计算速度快，适合快速验证	无法处理非均匀分布的数据

说白了，MinMax 就是一个「老实人」方法。它不会自作聪明地去截断数据，而是老老实实地把整个范围都保留下来。但问题在于，如果数据里有一个离群点，比如某个激活值突然飙到 100，而其他值都在 0~1 之间，那量化后的有效精度就全浪费在这个离群点上了。

什么时候该用 MinMax？

根据我的经验，以下场景可以放心用 MinMax：

• 权重量化：权重的分布通常比较规整，离群点少
• 激活值分布均匀：比如经过 BatchNorm 后的输出
• 快速原型验证：先跑通流程，再优化精度
• 资源受限设备：MinMax 不需要额外的存储和计算

好了，MinMax 校准法就聊到这儿。下一节我们会讲百分位校准法，它能在保留大部分数据的同时，优雅地处理离群点。到时候你会看到，同样是校准，不同的策略带来的效果天差地别。

嗯，先消化一下今天的内容。代码可以跑一跑，看看你的模型里哪些层是「老实人」，哪些层藏着「离群点」。