一种深度神经网络的通用小型化方法

基本信息

申请号 CN201711097406.6 申请日 -
公开(公告)号 CN107748913A 公开(公告)日 2018-03-02
申请公布号 CN107748913A 申请公布日 2018-03-02
分类号 G06N3/04;G06N3/08 分类 计算;推算;计数;
发明人 董健;张明;黄龙;王禹 申请(专利权)人 睿魔创新科技(深圳)有限公司
代理机构 广州粤高专利商标代理有限公司 代理人 罗晓林;杨桂洋
地址 523000 广东省东莞市松山湖高新技术产业开发区新竹路4号新竹苑17幢1单元4楼A区408室
法律状态 -

摘要

摘要 本发明公开了一种深度神经网络的通用小型化方法,包括以下步骤:对初始的深度神经网络进行特征重构,形成一个新的小型网络;对深度神经网络的特征通道数和组卷积数进行压缩处理,减少输出的特征通道数和组卷积的个数,特征重构时,采用特征分层方式进行重构,设定一个预定压缩比,先对深度神经网络的底层特征进行重构,然后再以同样的预定压缩比,对深度神经网络的高层特征进行重构。本发明有效降低存储空间,简化网络的同时仍保有良好的稳定性和有效性,广泛应用于部署在嵌入式和移动计算平台上的深度神经网络模型。