一种神经网络的非均匀量化方法

基本信息

申请号 CN202011616502.9 申请日 -
公开(公告)号 CN112712164A 公开(公告)日 2021-04-27
申请公布号 CN112712164A 申请公布日 2021-04-27
分类号 G06N3/04;G06N3/08;G06C3/00;G06F17/15 分类 计算;推算;计数;
发明人 黄宇扬;冯建豪;陈家麒 申请(专利权)人 上海熠知电子科技有限公司
代理机构 上海智晟知识产权代理事务所(特殊普通合伙) 代理人 张瑞莹;张东梅
地址 200060 上海市普陀区中山北路3000号4508室
法律状态 -

摘要

摘要 本发明公开一种神经网络的非均匀量化方法,首先,采用分段函数,将输入数据量化为第一定点数,进行储存,然后,查找第一查找表,确认第一定点数对应的第二定点数,其中第二定点数的比特数高于第一定点数,接下来,采用第二定点数进行卷积运算,得到计算结果,并查找第二查找表,将计算结果转换为第三定点数进行储存,第三定点数的数据类型与第一定点数相同。