一种数据处理方法及装置
基本信息
申请号 | CN202111397146.0 | 申请日 | - |
公开(公告)号 | CN114326922A | 公开(公告)日 | 2022-04-12 |
申请公布号 | CN114326922A | 申请公布日 | 2022-04-12 |
分类号 | G06C3/00(2006.01)I;G06F17/18(2006.01)I | 分类 | 计算;推算;计数; |
发明人 | 刘大可;唐云翔;刘磊 | 申请(专利权)人 | 极芯通讯技术(南京)有限公司 |
代理机构 | 北京路浩知识产权代理有限公司 | 代理人 | 王宇杨 |
地址 | 211800江苏省南京市自贸区南京片区江浦街道浦滨路320号科创总部大厦C座908室 | ||
法律状态 | - |
摘要
摘要 | 本发明提供一种数据处理方法及装置,该方法包括:获取待处理数据及其操作码;其中,操作码用于指示对待处理数据进行计算的函数种类;对待处理数据进行预处理;预处理后的待处理数据包括第一数据段、第二数据段和第三数据段,第一数据段用于生成查表地址,第二数据段用于参与函数计算,第三数据段用于指示第二数据段的小数点位置;根据第一数据段和操作码生成查表地址,通过查表地址在系数表中查找二次多项式系数;根据二次多项式系数和第二数据段执行内插计算,对内插计算结果进行后处理,并根据第三数据段指示的小数点位置,得到待处理数据的计算结果。本发明实现了若干种不同函数的高精度、高速计算,且有效降低了计算和存储资源的开销。 |
