定点与浮点数据计算方法及装置
基本信息
申请号 | CN201910363758.4 | 申请日 | - |
公开(公告)号 | CN110069240B | 公开(公告)日 | 2021-09-03 |
申请公布号 | CN110069240B | 申请公布日 | 2021-09-03 |
分类号 | G06F7/57 | 分类 | 计算;推算;计数; |
发明人 | 周韧研 | 申请(专利权)人 | 北京探境科技有限公司 |
代理机构 | 北京知呱呱知识产权代理有限公司 | 代理人 | 孙进华;丁彦峰 |
地址 | 100085北京市海淀区信息路28号6层A座2055号 | ||
法律状态 | - |
摘要
摘要 | 本发明实施例公开了一种定点与浮点数据计算方法及装置,包括:将M个第一预设格式的数据转换为N个第二预设格式的数据;将N个第二预设格式的数据进行相加,根据预设输出格式,对相加结果进行输出;其中,第一预设格式为浮点格式或第一定点格式,第二预设格式为第二定点格式,M=2*N‑1,N为不小于1的整数。本发明实施例提供的方法,通过将M个第一预设格式的数据转换为N个第二预设格式的数据,将N个第二预设格式的数据进行相加,根据预设输出格式,对相加结果进行输出。由于第一预设格式为浮点格式或第一定点格式,从而可以对不同格式的数据进行计算,计算方法适应性更高。 |
