📘 NPU 剪枝实战
30章 · 芯片级
✦ 友好 · 硬核技术 ✦
01
NPU剪枝概述
模型剪枝定义
NPU必要性
收益与代价
02
剪枝理论基础
权重稀疏性
过参数化
数学本质
03
剪枝分类体系
结构化/非结构化
细粒度/粗粒度
04
NPU硬件架构基础
计算单元
数据流
稀疏支持
05
细粒度剪枝
逐权重剪枝
阈值策略
掩码矩阵
06
向量级剪枝
N:M剪枝
NVIDIA/华为
硬件对齐
07
通道剪枝
BN层Gamma
重要性评估
重训练
08
滤波器剪枝
卷积核剪枝
L1范数
网络重构
09
结构化剪枝
块状/行列
硬件加速
10
剪枝粒度选择
NPU性能影响
延迟vs精度
11
剪枝标准与准则
权重大小
梯度
泰勒展开
12
基于L1/L2范数剪枝
范数计算
全局/局部阈值
实验对比
13
基于梯度信息剪枝
梯度×权重
一阶泰勒
重要性得分
14
基于特征图重构剪枝
重构误差
LASSO
通道选择
15
基于信息论剪枝
互信息
熵减
信息瓶颈
16
训练后剪枝
无需微调
数据校准
精度恢复
17
训练感知剪枝
STE
软掩码
渐进式
18
渐进式剪枝策略
稀疏率递增
学习率调度
防崩塌
19
迭代剪枝与重训练
剪枝-训练循环
学习率重置
知识蒸馏
20
自动剪枝 (AutoML)
强化学习
遗传算法
AMC框架
21
NPU稀疏计算单元设计
稀疏矩阵乘法
非零索引
CSR/CSC
22
剪枝后模型部署
ONNX导出
量化联合
NPU编译器
23
剪枝与量化联合优化
协同压缩
精度叠加
混合精度
24
剪枝与知识蒸馏结合
教师-学生
蒸馏损失
微调
25
剪枝工具与框架
PyTorch API
TF MOT
NNI
OpenVINO
26
剪枝在CV任务中的应用
ResNet
YOLO
语义分割
27
剪枝在NLP任务中的应用
Transformer
注意力头
BERT压缩
28
剪枝在边缘NPU实践
低功耗
实时性
模型大小
29
剪枝效果评估指标
稀疏率
加速比
能耗比
精度
30
剪枝前沿趋势
动态剪枝
硬件-算法协同
大模型挑战