一种通道剪枝和快捷连接层剪枝方法及系统专利查询专利号|摘要-满商公司网

一种通道剪枝和快捷连接层剪枝方法及系统

基本信息

申请号	CN202110592328.7	申请日	-
公开（公告）号	CN113222142A	公开（公告）日	2021-08-06
申请公布号	CN113222142A	申请公布日	2021-08-06
分类号	G06N3/08;G06N3/04	分类	计算；推算；计数;
发明人	王俊杰;杜金航;许卓然;彭伊莎;薛贵荣	申请（专利权）人	上海天壤智能科技有限公司
代理机构	上海段和段律师事务所	代理人	李佳俊;郭国中
地址	201100 上海市闵行区剑川路951号5幢1层（集中登记地）
法律状态	-

摘要

本发明提供一种通道剪枝和快捷连接层剪枝方法及系统，涉及计算机视觉技术领域，该方法包括：步骤S1：对单阶段目标检测模型的BN层的尺度因子进行自适应稀疏化训练；步骤S2：设计通道剪枝和层剪枝的阈值和快捷剪枝层的数量；步骤S3：对模型每一层小于通道阈值的通道进行剪枝；步骤S4：综合每一个快捷连接层中所有BN的尺度因子的平均值和标准差，对快捷连接层重要性进行排序，剪去设置的数量；步骤S5：降低模型精度的损失，将剪去的层的BN中的偏差合并到下一个BN层的runing_mean中；步骤S6：使用模型蒸馏，并进行精度恢复训练；步骤S7：重复步骤S1～步骤S6，反复对模型进行剪枝。本发明能够使得模型性能不下降，且参数量大大降低，显著提升推理效率效果。