一种数据处理方法及装置

基本信息

申请号 CN202111397146.0 申请日 -
公开(公告)号 CN114326922A 公开(公告)日 2022-04-12
申请公布号 CN114326922A 申请公布日 2022-04-12
分类号 G06C3/00(2006.01)I;G06F17/18(2006.01)I 分类 计算;推算;计数;
发明人 刘大可;唐云翔;刘磊 申请(专利权)人 极芯通讯技术(南京)有限公司
代理机构 北京路浩知识产权代理有限公司 代理人 王宇杨
地址 211800江苏省南京市自贸区南京片区江浦街道浦滨路320号科创总部大厦C座908室
法律状态 -

摘要

摘要 本发明提供一种数据处理方法及装置,该方法包括:获取待处理数据及其操作码;其中,操作码用于指示对待处理数据进行计算的函数种类;对待处理数据进行预处理;预处理后的待处理数据包括第一数据段、第二数据段和第三数据段,第一数据段用于生成查表地址,第二数据段用于参与函数计算,第三数据段用于指示第二数据段的小数点位置;根据第一数据段和操作码生成查表地址,通过查表地址在系数表中查找二次多项式系数;根据二次多项式系数和第二数据段执行内插计算,对内插计算结果进行后处理,并根据第三数据段指示的小数点位置,得到待处理数据的计算结果。本发明实现了若干种不同函数的高精度、高速计算,且有效降低了计算和存储资源的开销。