⚡ 速度 · 精度 平衡策略

📚 30 章节 完整目录
01
速度与精度博弈：为什么需要平衡？
延迟·吞吐量·准确率 · 核心矛盾
02
模型量化基础：什么是量化？
FP32→INT8 · 精度损失与速度提升数学原理
03
量化感知训练：如何让模型适应低精度？
模拟量化·伪量化节点·BN层融合
04
后训练量化：快速部署的捷径
校准数据集·KL散度·对称/非对称量化
05
混合精度训练：FP16与BF16的实战
损失缩放·梯度裁剪·Master权重保持
06
模型剪枝入门：结构化与非结构化剪枝
权重剪枝·通道剪枝·L1/L2范数评估
07
剪枝与微调：剪枝后如何恢复精度？
迭代剪枝·一次性剪枝·学习率重调度
08
知识蒸馏：大模型教小模型
软标签·温度系数·教师-学生架构
09
蒸馏技巧：特征层蒸馏与关系蒸馏
中间层对齐·注意力迁移·互信息最大化
10
轻量化网络设计：MobileNet与ShuffleNet
深度可分离卷积·通道混洗·分组卷积
11
EfficientNet与复合缩放
深度·宽度·分辨率协同缩放策略
12
模型加速框架：TensorRT与ONNX Runtime
图优化·算子融合·动态形状处理
13
推理引擎选型：OpenVINO vs TFLite vs CoreML
硬件适配·算子支持·部署成本
14
算子优化：卷积与矩阵乘的加速
Im2Col·Winograd·FFT·稀疏化计算
15
内存优化：推理时的显存与带宽管理
内存复用·张量重计算·流水线调度
16
模型编译技术：TVM与XLA
自动调优·图级优化·代码生成
17
硬件加速器：GPU、NPU、TPU的推理特性
算力·带宽·延迟权衡
18
边缘端部署：从云端到终端的挑战
模型压缩·功耗限制·实时性要求
19
动态形状与静态形状：推理时的输入处理
Padding策略·动态batch·多尺度支持
20
批处理优化：吞吐量与延迟的跷跷板
动态batching·连续batching·桶策略
21
模型并行与流水线并行：分布式推理
张量并行·流水线气泡·通信开销
22
异步推理与并发控制：提高GPU利用率
多流·事件同步·队列管理
23
精度评估体系：如何衡量平衡效果？
速度-精度曲线·帕累托前沿·AUC权衡
24
自动化调优：NAS与AutoML在加速中的应用
硬件感知搜索·延迟正则化·代理指标
25
案例实战：图像分类模型的加速
ResNet50量化+剪枝+蒸馏全流程
26
案例实战：目标检测模型的优化
YOLOv5的INT8部署与精度恢复
27
案例实战：NLP模型的推理加速
BERT的量化·剪枝与蒸馏实践
28
案例实战：语音识别模型的轻量化
DeepSpeech定点化与模型压缩
29
监控与回退机制：生产环境中的精度保障
异常检测·动态回退·A/B测试
30
未来趋势：从量化到稀疏化再到神经形态计算
展望下一代加速技术
📘 📩