📘 高质量偏好数据集 全流程实战

🎯 30章 · 从入门到前沿
偏好数据集定义 高质量必要性 课程目标 学习路径
公开数据集挖掘 爬虫与API 众包平台 合成数据生成
缺失值处理 重复数据去重 异常值检测 数据标准化
标注指南编写 Label Studio Prodigy 质量控制
成对比较 排序标注 评分标注 隐式反馈提取
Cohen's Kappa Fleiss' Kappa 标注者信度 争议样本处理
回译增强 同义词替换 句式变换 对抗样本生成
类别不平衡 长尾分布裁剪 难例挖掘 主动学习采样
PII脱敏 数据脱敏技术 差分隐私 GDPR合规
DVC工具 数据血缘追踪 数据集快照 回滚机制
JSON/JSONL Parquet Hugging Face TFRecord
准确性 完整性 一致性 时效性·可靠性
规则引擎 统计检验 模型辅助检测 异常检测算法
Airflow工作流 Prefect编排 流水线监控 失败重试
特征工程 文本预处理 图像预处理 多模态对齐
Prompt-Response-Choice 元数据设计 多轮对话偏好
分层采样 蓄水池采样 重要性采样 拒绝采样
开源工具对比 内部平台架构 任务分发 实时质量监控
培训材料编写 考核机制 反馈循环 持续改进
预算估算 效率优化 众包定价策略 质量与成本平衡
偏见识别与缓解 公平性评估 透明度报告 伦理审查流程
基于模型反馈修正 主动学习循环 标注指南迭代
Label Studio插件 自定义标注界面 API集成 工作流定制
标注分布统计 耗时分析 标注者表现 质量热力图
投票融合 加权融合 置信度过滤 专家复审
数据库设计 索引优化 查询接口 数据导出
标注分布图 一致性矩阵 质量趋势图 异常样本展示
模型训练效果对比 消融实验 人工评估 自动化指标
数据集文档 License选择 发布平台 社区反馈收集
全流程回顾 常见陷阱 RLHF·DPO·KTO 下一步学习建议