一种神经网络的非均匀量化方法
基本信息
申请号 | CN202011616502.9 | 申请日 | - |
公开(公告)号 | CN112712164A | 公开(公告)日 | 2021-04-27 |
申请公布号 | CN112712164A | 申请公布日 | 2021-04-27 |
分类号 | G06N3/04;G06N3/08;G06C3/00;G06F17/15 | 分类 | 计算;推算;计数; |
发明人 | 黄宇扬;冯建豪;陈家麒 | 申请(专利权)人 | 上海熠知电子科技有限公司 |
代理机构 | 上海智晟知识产权代理事务所(特殊普通合伙) | 代理人 | 张瑞莹;张东梅 |
地址 | 200060 上海市普陀区中山北路3000号4508室 | ||
法律状态 | - |
摘要
摘要 | 本发明公开一种神经网络的非均匀量化方法,首先,采用分段函数,将输入数据量化为第一定点数,进行储存,然后,查找第一查找表,确认第一定点数对应的第二定点数,其中第二定点数的比特数高于第一定点数,接下来,采用第二定点数进行卷积运算,得到计算结果,并查找第二查找表,将计算结果转换为第三定点数进行储存,第三定点数的数据类型与第一定点数相同。 |
