PTQ校准数据集构建与优化实战

📚 共计 30 章节

PTQ基础概念

什么是PTQ · PTQ与QAT的区别 · 适用场景与优势

校准数据集概述

校准数据集的作用 · 与训练集/验证集区别 · 核心要求

数据采样策略

随机采样 · 分层采样 · 基于熵/梯度采样

数据量选择

最小数据量原则 · 精度影响曲线 · 最佳数据量确定

数据量调优

数据多样性

类别平衡 · 场景覆盖 · 光照/角度/噪声 · 长尾处理

多样性长尾

数据预处理

Resize/Crop策略 · Normalization对齐 · 数据增强影响

预处理增强

数据标注质量

标签噪声影响 · 数据清洗 · 半监督/自监督数据

数据分布匹配

训练集vs校准集分布 · KL散度 · 偏移检测与修正

批量大小选择

Batch Size影响 · 梯度统计稳定性 · 显存与效率

校准迭代影响 · 收敛判断 · 早停策略

数据打乱重要性 · 固定种子 · 顺序敏感性分析

顺序可复现

多任务/多输出模型

多分支校准 · 任务权重 · 联合校准策略

多任务多输出

图像分类模型校准

ImageNet风格 · Top-1/Top-5 · 类别均衡采样

目标检测模型校准

COCO风格 · 目标尺度多样性 · 背景前景平衡

语义分割模型校准

Cityscapes风格 · 像素占比 · 边界区域采样

分割Cityscapes

NLP模型校准

文本分类 · 序列标注 · 生成模型特殊性

语音模型校准

音频特征提取 · 语音多样性 · 信噪比覆盖

语音信噪比

多模态模型校准

图文匹配 · 模态对齐 · 跨模态数据构建

多模态对齐

数据增强在PTQ中的应用

CutMix/MixUp · 颜色抖动 · 几何变换 · 强度控制

合成数据的使用

GAN生成 · 扩散模型生成 · 有效性验证

主动学习选样

不确定性采样 · 多样性采样 · 代表性采样 · 混合策略

主动学习采样

教师模型筛选 · 伪标签生成 · 置信度过滤

蒸馏伪标签

硬样本挖掘

困难样本识别 · OoD处理 · 对抗样本校准

数据量自适应

动态调整数据量 · 精度监控 · 自动停止机制

自适应动态

多数据集融合

不同来源融合 · 域适应 · 权重分配

融合域适应

校准数据缓存

数据加载优化 · 内存映射 · 预计算特征缓存

自动化Pipeline

流程自动化 · CI/CD集成 · 版本管理

评估与验证

校准后精度评估 · 消融实验 · 统计显著性检验

常见问题与调试

校准失败分析 · 精度下降排查 · 可视化诊断工具

工业实践案例

移动端/边缘设备校准 · 大规模模型校准经验