一种针对于ResNet的按通道剪枝算法
基本信息
申请号 | CN201910701289.2 | 申请日 | - |
公开(公告)号 | CN110414608A | 公开(公告)日 | 2019-11-05 |
申请公布号 | CN110414608A | 申请公布日 | 2019-11-05 |
分类号 | G06K9/62(2006.01)I; G06N3/04(2006.01)I | 分类 | 计算;推算;计数; |
发明人 | 刘一锋 | 申请(专利权)人 | 西安第六镜网络科技有限公司 |
代理机构 | 北京东方盛凡知识产权代理事务所(普通合伙) | 代理人 | 张雪 |
地址 | 710077 陕西省西安市高新区锦业路38号粤汉国际1号楼10510室 | ||
法律状态 | - |
摘要
摘要 | 本发明公开了一种针对于ResNet的按通道剪枝算法,包括如下步骤:步骤一,通道评估;步骤二,神经元去除;步骤三,剪枝模型训练;步骤四,判断;步骤五,微调模型;给模型中所有conv layer重新编号排次序,计算每个conv layer所有通道rank值,并按通道归一化,然后统计模型所有conv layer的通道数,对所有convlayer通道rank值按从大到小排序;根据拟剪枝列表,在训练好或加载的模型中去除,当所有卷积层剪枝结束,依据邻近上一个卷积层输出通道数,通过BatchNorm层继承方式,修改成同样的通道数;全网参数更新,进行剪枝模型训练;判断剪枝是否结束,若停止到下一步微调全网参数,否则重复步骤一到步骤三;微调结束后保存剪枝模型;本发明,计算简单,识别精度高。 |
