文章目录
- 0. 前言
- 1. 模型剪枝概念
- 2. 模型剪枝实操
- 2.1 稀疏化训练
- 2.2 模型剪枝
- 2.3 模型微调
- 总结
0. 前言
无奈之下,我还是写了【模型剪枝】教程🤦♂️。回想当年,在写《YOLOv5/v7进阶实战专栏》 时,我经历了许多挫折,才最终完成了【模型剪枝】和【模型蒸馏】的内容。当时我尝试了各种剪枝和蒸馏方法,确实成功让模型变轻量了,但精度也下降了不少。做了很多实验后,我发现只有在剪得非常少的情况下,模型的效果才勉强可以接受,根本就没有出现所谓的 “无损剪枝!”
因此,我对剪枝的效果并没有太大的信心,觉得它过程繁琐、收效小,远不如尝试更好的模型结构来得实在。不过,由于一直有同学在询问,所以我整理了这份教程,希望能为大家提供一些帮助。不过还是要提醒大家,不要对剪枝有过高的期望,模型确实能变得更轻量,但精度的损失有多大,能不能接受,就要看你们场景需求了。