一种设计乘法器查找表的方法、系统、设备及介质

基本信息

申请号 CN202110657629.3 申请日 -
公开(公告)号 CN113504892A 公开(公告)日 2021-10-15
申请公布号 CN113504892A 申请公布日 2021-10-15
分类号 G06F7/523(2006.01)I;G06N3/04(2006.01)I 分类 计算;推算;计数;
发明人 李拓 申请(专利权)人 山东云海国创云计算装备产业创新中心有限公司
代理机构 北京连和连知识产权代理有限公司 代理人 杨帆;宋薇薇
地址 250000山东省济南市中国(山东)自由贸易试验区济南片区浪潮路1036号浪潮科技园S01楼35层
法律状态 -

摘要

摘要 本发明公开了一种设计乘法器查找表的方法、系统、设备和存储介质,方法包括:响应于接收到输入数据,获取所述输入数据中的乘数的第一位宽和所述输入数据中的被乘数的第二位宽;根据误差范围和容量限制确定输出结果位宽,根据所述第一位宽、所述第二位宽和所述输出结果位宽确定平移位宽;根据所述平移位宽对所述乘数和所述被乘数的结果进行平移,并判断平移过程中移除的数据是否全为第一数值;以及响应于平移过程中移除的数据不是全为第一数值,对平移后的所述结果加上第二数值。本发明可以针对深度神经网络计算或其它应用中对计算误差的可容忍程度进行灵活配置,从而在满足应用需求的前提下,减少计算在存储上的开销,提高整体的计算效能。