一种深度神经网络的通用小型化方法
基本信息
申请号 | CN201711097406.6 | 申请日 | - |
公开(公告)号 | CN107748913A | 公开(公告)日 | 2018-03-02 |
申请公布号 | CN107748913A | 申请公布日 | 2018-03-02 |
分类号 | G06N3/04;G06N3/08 | 分类 | 计算;推算;计数; |
发明人 | 董健;张明;黄龙;王禹 | 申请(专利权)人 | 睿魔创新科技(深圳)有限公司 |
代理机构 | 广州粤高专利商标代理有限公司 | 代理人 | 罗晓林;杨桂洋 |
地址 | 523000 广东省东莞市松山湖高新技术产业开发区新竹路4号新竹苑17幢1单元4楼A区408室 | ||
法律状态 | - |
摘要
摘要 | 本发明公开了一种深度神经网络的通用小型化方法,包括以下步骤:对初始的深度神经网络进行特征重构,形成一个新的小型网络;对深度神经网络的特征通道数和组卷积数进行压缩处理,减少输出的特征通道数和组卷积的个数,特征重构时,采用特征分层方式进行重构,设定一个预定压缩比,先对深度神经网络的底层特征进行重构,然后再以同样的预定压缩比,对深度神经网络的高层特征进行重构。本发明有效降低存储空间,简化网络的同时仍保有良好的稳定性和有效性,广泛应用于部署在嵌入式和移动计算平台上的深度神经网络模型。 |
