一种稀疏深度神经网络的构造方法

基本信息

申请号 CN202110036712.9 申请日 -
公开(公告)号 CN113191481A 公开(公告)日 2021-07-30
申请公布号 CN113191481A 申请公布日 2021-07-30
分类号 G06N3/04(2006.01)I;G06N3/08(2006.01)I 分类 计算;推算;计数;
发明人 宋艳枝;廖可;王杰;文铭 申请(专利权)人 合肥黎曼信息科技有限公司
代理机构 安徽省蚌埠博源专利商标事务所(普通合伙) 代理人 朱恒兰
地址 230001安徽省合肥市高新区创新大道2800号创新产业园二期J1栋A座1027室
法律状态 -

摘要

摘要 本发明涉及深度学习神经网络技术领域,具体涉及一种稀疏深度神经网络的构造方法,包括以下步骤:S1:通过L1,∞‑权重正则化开发了稀疏深度神经网络空间的系统框架;S2:建立步骤S1中的稀疏深度神经网络空间的Rademacher复杂度;S3:基于步骤S2中的稀疏深度神经网络空间的Rademacher复杂度导出回归问题和分类问题的泛化误差界限;S4:采用易于实现的梯度投影下降算法构造稀疏深度神经网络;这种稀疏深度神经网络的构造方法,建立了基于L1,∞‑权重正则化的包含偏置神经元的神经网络的回归和分类问题的泛化误差边界,采用易于实现的梯度投影下降算法,来实际构造出一种稀疏神经网络。