🧩 ONNX 模型剪枝与轻量化 实战·30章
📚 从入门到部署 · 友好色系
✂️ 剪枝 📉 量化 🧠 蒸馏 ⚡ 加速
01ONNX模型剪枝与轻量化概述
什么是模型剪枝什么是模型量化为什么需要轻量化ONNX生态简介
02ONNX模型基础
ONNX格式解析ONNX算子集ONNX Runtime推理引擎模型可视化Netron
03环境搭建与工具链
Python环境配置ONNX Runtime安装onnxruntime-toolsonnx-simplifier
04模型加载与保存
onnx.load加载onnx.save保存模型结构检查版本兼容性
05模型结构解析
遍历模型节点获取输入输出分析计算图理解张量形状
06模型简化与优化
onnx-simplifier常量折叠冗余节点消除算子融合
07模型精度分析
FP32 vs FP16精度损失评估混合精度推理
08模型量化基础
量化原理对称/非对称量化量化参数计算校准数据集
09静态量化实战
onnxruntime-tools静态量化校准数据准备量化后验证
10动态量化实战
动态量化原理与静态量化对比代码实现性能测试
11INT8量化深入
INT8量化流程量化感知训练QATQAT vs PTQ量化误差分析
12权重剪枝原理
剪枝策略分类结构化/非结构化剪枝率与性能权衡
13基于阈值的剪枝
设置权重阈值低于阈值置零剪枝后微调稀疏矩阵存储
14基于重要性的剪枝
L1/L2范数评估通道重要性排序逐层剪枝策略全局剪枝策略
15结构化剪枝实战
通道剪枝滤波器剪枝模型重构推理速度影响
16非结构化剪枝实战
细粒度剪枝模式剪枝模型压缩率稀疏推理加速
17剪枝与量化联合优化
先剪枝后量化先量化后剪枝联合优化策略端到端性能评估
18知识蒸馏基础
蒸馏原理教师/学生模型软标签与硬标签温度参数调节
19知识蒸馏实战
ONNX模型蒸馏蒸馏损失函数蒸馏训练流程蒸馏后评估
20综合案例1:图像分类(ResNet)
ResNet剪枝量化PyTorch转ONNX完整流程
21综合案例2:目标检测(YOLO)
YOLO剪枝量化检测精度/速度权衡
22综合案例3:NLP (BERT)
BERT剪枝量化Transformer优化技巧
23ONNX Runtime性能调优
执行提供者选择会话选项优化线程数设置
24模型部署与推理加速
边缘设备部署TensorRT集成OpenVINO集成
25模型安全性检查
模型后门检测对抗样本鲁棒性模型加密保护签名验证
26模型版本管理与迭代
版本控制策略A/B测试框架模型回滚机制监控与告警
27自动化剪枝工具开发
自动化Pipeline参数搜索策略贝叶斯优化调参结果可视化
28模型压缩效果评估
压缩率计算推理速度基准精度保持率内存占用分析
29常见问题与调试技巧
量化后精度骤降剪枝后不收敛算子不支持性能瓶颈分析
30课程总结与未来展望
轻量化技术趋势AutoML与模型压缩前沿论文推荐学习路径规划