一种基于伪孪生网络的网络剪枝方法
基本信息
| 申请号 | CN201910400920.5 | 申请日 | - |
| 公开（公告）号 | CN110097177A | 公开（公告）日 | 2019-08-06 |
| 申请公布号 | CN110097177A | 申请公布日 | 2019-08-06 |
| 分类号 | G06N3/04;G06N3/08 | 分类 | 计算；推算；计数; |
| 发明人 | 闵锐;蓝海 | 申请（专利权）人 | 电科瑞达（成都）科技有限公司 |
| 代理机构 | 成都点睛专利代理事务所（普通合伙） | 代理人 | 孙一峰 |
| 地址 | 610041 四川省成都市高新区高朋大道21号1幢5层 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明属于神经网络模型压缩技术领域，具体为一种基于伪孪生网络的网络剪枝方法。本发明在传统的三值神经网络的基础上，提出了一种通用的裁剪大型卷积神经网络中冗余连接的方法，具体为：构造一个与被裁减网络N一样架构的三值网络Ternary‑N，用相同的图片进行每一步的训练，训练过程中采用知识蒸馏算法，训练完成后用Ternary‑N中的权值对N中相对应位置的权重进行裁剪，最后对N进行微调，微调后的网络连接数相比于原网络大大减少。 |
