🧩 ONNX 模型剪枝与轻量化
实战·30章
📚 从入门到部署 · 友好色系
✂️ 剪枝
📉 量化
🧠 蒸馏
⚡ 加速
01
ONNX模型剪枝与轻量化概述
什么是模型剪枝
什么是模型量化
为什么需要轻量化
ONNX生态简介
02
ONNX模型基础
ONNX格式解析
ONNX算子集
ONNX Runtime推理引擎
模型可视化Netron
03
环境搭建与工具链
Python环境配置
ONNX Runtime安装
onnxruntime-tools
onnx-simplifier
04
模型加载与保存
onnx.load加载
onnx.save保存
模型结构检查
版本兼容性
05
模型结构解析
遍历模型节点
获取输入输出
分析计算图
理解张量形状
06
模型简化与优化
onnx-simplifier
常量折叠
冗余节点消除
算子融合
07
模型精度分析
FP32 vs FP16
精度损失评估
混合精度推理
08
模型量化基础
量化原理
对称/非对称量化
量化参数计算
校准数据集
09
静态量化实战
onnxruntime-tools静态量化
校准数据准备
量化后验证
10
动态量化实战
动态量化原理
与静态量化对比
代码实现
性能测试
11
INT8量化深入
INT8量化流程
量化感知训练QAT
QAT vs PTQ
量化误差分析
12
权重剪枝原理
剪枝策略分类
结构化/非结构化
剪枝率与性能权衡
13
基于阈值的剪枝
设置权重阈值
低于阈值置零
剪枝后微调
稀疏矩阵存储
14
基于重要性的剪枝
L1/L2范数评估
通道重要性排序
逐层剪枝策略
全局剪枝策略
15
结构化剪枝实战
通道剪枝
滤波器剪枝
模型重构
推理速度影响
16
非结构化剪枝实战
细粒度剪枝
模式剪枝
模型压缩率
稀疏推理加速
17
剪枝与量化联合优化
先剪枝后量化
先量化后剪枝
联合优化策略
端到端性能评估
18
知识蒸馏基础
蒸馏原理
教师/学生模型
软标签与硬标签
温度参数调节
19
知识蒸馏实战
ONNX模型蒸馏
蒸馏损失函数
蒸馏训练流程
蒸馏后评估
20
综合案例1:图像分类(ResNet)
ResNet剪枝量化
PyTorch转ONNX
完整流程
21
综合案例2:目标检测(YOLO)
YOLO剪枝量化
检测精度/速度权衡
22
综合案例3:NLP (BERT)
BERT剪枝量化
Transformer优化技巧
23
ONNX Runtime性能调优
执行提供者选择
会话选项优化
线程数设置
24
模型部署与推理加速
边缘设备部署
TensorRT集成
OpenVINO集成
25
模型安全性检查
模型后门检测
对抗样本鲁棒性
模型加密保护
签名验证
26
模型版本管理与迭代
版本控制策略
A/B测试框架
模型回滚机制
监控与告警
27
自动化剪枝工具开发
自动化Pipeline
参数搜索策略
贝叶斯优化调参
结果可视化
28
模型压缩效果评估
压缩率计算
推理速度基准
精度保持率
内存占用分析
29
常见问题与调试技巧
量化后精度骤降
剪枝后不收敛
算子不支持
性能瓶颈分析
30
课程总结与未来展望
轻量化技术趋势
AutoML与模型压缩
前沿论文推荐
学习路径规划