3、校准数据集构建：如何选择代表性数据？数据量多少合适？数据预处理技巧。
校准数据集，说白了就是量化时的「标尺」。
你拿什么数据去校准，直接决定了量化后的模型是「精准」还是「翻车」。我见过太多人，模型量化完精度掉得一塌糊涂，最后发现——校准集选错了。
今天咱们就把这块掰开揉碎，聊聊怎么选数据、选多少、怎么处理。
3.1 代表性数据：不是随便抽几张图就行
很多人觉得，校准嘛，从训练集里随机抽几百张不就完了？
嗯，我刚开始也这么干过。结果量化后的模型在某个特定场景下直接崩了——后来发现，校准集里全是白天场景，模型压根没见过夜晚的数据。
那什么叫「代表性」？
简单说，就是校准集要覆盖模型在实际部署中可能遇到的各种情况。
- 覆盖数据分布：训练集里各类别、各场景的比例，校准集里也要大致反映出来。别让某个类别占比过高或过低。
- 覆盖极端值：比如图像里的高亮区域、暗部细节、模糊样本。这些极端值往往决定了量化后的边界表现。
- 覆盖任务关键场景：如果是自动驾驶模型，那夜间、雨天、隧道入口这些场景必须包含。我有个项目是做工业质检，校准集里特意加了不少「缺陷样本」，因为这才是业务关心的。
核心原则：校准集应该代表「部署时的真实输入分布」，而不是「训练集的随机子集」。
3.2 数据量多少合适？别迷信「越多越好」
这个问题我经常被问到。有人觉得，校准数据越多，量化效果越好。其实不一定。
我做过一个实验：用 100 张、500 张、2000 张图片分别做校准，结果精度差异不到 0.1%。但数据量从 2000 张降到 100 张，校准时间从 5 分钟缩短到 30 秒。
那到底多少合适？
根据我的经验，不同任务有个大致范围：
| 任务类型 | 推荐校准数据量 | 说明 |
|---|---|---|
| 图像分类（如 ResNet） | 200 - 500 张 | 类别均衡，覆盖主要场景即可 |
| 目标检测（如 YOLO） | 500 - 1000 张 | 需要覆盖不同尺寸、不同位置的目标 |
| 语义分割（如 DeepLab） | 300 - 800 张 | 关注边缘区域和纹理复杂区域 |
| NLP 文本分类 | 500 - 2000 条 | 覆盖不同句式、不同长度 |
| 语音识别 | 1000 - 3000 条 | 覆盖不同口音、不同背景噪声 |
我的建议：先拿 200 张试试，看量化后精度是否达标。如果掉点严重，再逐步增加。别一上来就搞几千张，浪费时间。
3.3 数据预处理技巧：别让「脏数据」毁了量化
校准数据不是拿来就能用的。预处理做不好，量化效果直接打折。
我曾经接手过一个项目，校准集里有些图片是黑白的，有些是彩色的，还有几张分辨率特别低。结果量化后模型在某些输入上输出全是 NaN。排查了半天，才发现是预处理没统一。
几个关键技巧：
- 统一输入尺寸：所有校准数据必须 resize 到模型期望的输入尺寸。别用不同尺寸的图混着校准。
- 归一化方式一致：校准时的归一化（mean/std）必须和训练时完全一致。我见过有人用 ImageNet 的 mean/std 去校准一个自己训练的模型，结果可想而知。
- 去除异常样本：比如全黑图片、全白图片、损坏的文件。这些样本会让校准时的激活值分布异常，影响量化参数计算。
- 数据增强？谨慎使用：校准集一般不做数据增强。因为增强会引入额外的分布偏移，反而让校准结果不稳定。除非你明确知道增强后的数据更接近部署场景。
避坑指南：我曾经用带随机裁剪的校准集做量化，结果每次校准出来的量化参数都不一样。后来改成固定裁剪，问题就解决了。校准过程需要确定性，别引入随机性。
3.4 实操：一个简单的校准数据构建流程
说了这么多，咱们直接看代码。下面是一个 PyTorch 下的校准数据集构建示例：
import torch
from torch.utils.data import Dataset, DataLoader
from torchvision import transforms
class CalibrationDataset(Dataset):
def __init__(self, image_paths, input_size=224):
self.image_paths = image_paths
# 注意：预处理必须和训练时一致
self.transform = transforms.Compose([
transforms.Resize((input_size, input_size)),
transforms.ToTensor(),
transforms.Normalize(mean=[0.485, 0.456, 0.406],
std=[0.229, 0.224, 0.225])
])
def __len__(self):
return len(self.image_paths)
def __getitem__(self, idx):
from PIL import Image
img = Image.open(self.image_paths[idx]).convert('RGB')
return self.transform(img)
# 构建校准数据加载器
calib_paths = [...] # 你的校准图片路径列表
calib_dataset = CalibrationDataset(calib_paths)
calib_loader = DataLoader(calib_dataset, batch_size=32, shuffle=False)
# 校准过程（以 PTQ 为例）
def calibrate_model(model, calib_loader):
model.eval()
# 这里插入量化校准逻辑
# 比如收集激活值的 min/max 或 histogram
with torch.no_grad():
for batch in calib_loader:
_ = model(batch)
print("校准完成！")
小技巧：校准数据加载时，shuffle=False。保持顺序确定性，方便复现结果。
3.5 总结：校准数据集构建的「三要三不要」
最后，我总结一个口诀，方便你记住：
- 要覆盖分布，不要随机乱抽
- 要适量够用，不要贪多求全
- 要预处理一致，不要引入偏差
校准数据集这件事，说难不难，说简单也不简单。关键是你得理解：它不是为了「训练」模型，而是为了「测量」模型。测量工具不准，后面的量化工作全是白费。
下一章，咱们聊聊量化参数的计算方法——怎么从校准数据里提取出最优的 scale 和 zero-point。到时候你会发现，校准集选得好，后面省一半功夫。