计算神经网络压缩最佳定点位数的方法、存储介质和装置

基本信息

申请号 CN201810992672.3 申请日 -
公开(公告)号 CN109359728B 公开(公告)日 2021-04-09
申请公布号 CN109359728B 申请公布日 2021-04-09
分类号 G06N3/063(2006.01)I;G06N3/04(2006.01)N;G06N3/08(2006.01)N 分类 计算;推算;计数;
发明人 杨志明;陈巍巍;陈腊梅 申请(专利权)人 深思考人工智能机器人科技(北京)有限公司
代理机构 北京德琦知识产权代理有限公司 代理人 谢安昆;宋志强
地址 100085北京市海淀区信息路12号中关村发展大厦B座B203-205
法律状态 -

摘要

摘要 本发明提供一种计算神经网络压缩最佳定点位数的方法、存储介质和装置,包括:步骤11:设置FPn为初始值;步骤12:按照当前FPn,将卷积层参数进行定点化处理,以构建当前定点化深度学习算法;将L个样本数据对中的样本输入值逐个输入当前定点化深度学习算法,其中,一样本数据对包括样本输入值Xl、以及Xl的标准输出Yl,记录当前定点化深度学习算法的输出Y’l,l=1,2…L;步骤13:通过比较Yl与Y’l,判断Y’l是否符合预设要求,如果是,则记录当前FPn为定点化深度学习算法的定点位数最终值,结束本流程,否则执行步骤14;步骤14:调整FPn数值,返回步骤12。本发明方法,可以快速确定定点化深度学习算法中的定点位数,可提高深度学习算法的运算速度,节省运算时间。