一种数据处理方法及装置
基本信息
申请号 | CN201710790718.9 | 申请日 | - |
公开(公告)号 | CN107748752B | 公开(公告)日 | 2021-07-06 |
申请公布号 | CN107748752B | 申请公布日 | 2021-07-06 |
分类号 | G06F16/23;G06F16/25 | 分类 | 计算;推算;计数; |
发明人 | 李红伟 | 申请(专利权)人 | 新智云数据服务有限公司 |
代理机构 | 北京同达信恒知识产权代理有限公司 | 代理人 | 黄志华 |
地址 | 200000 上海市杨浦区政立路421号1001室 | ||
法律状态 | - |
摘要
摘要 | 本发明涉及大数据技术领域,尤其涉及一种数据处理方法及装置,为了解决现有大数据平台在进行数据处理时,无法保证数据真实性的问题,该方法为,通过指定工具从指定源系统抽取并加载初始数据集,并将加载后的初始数据集划分为若干初始数据子集,分批判断当前初始数据子集是否需要修改初始数据条,针对待修改的初始数据子集执行增量合并操作,获得相应目标数据子集,采用预设的业务逻辑规则,为获得的各个目标数据子集包含的若干目标数据条建立关联关系,这样,指定大数据平台通过指定工具能与指定源系统实现衔接,而且,即便是数据加载到指定大数据平台后被修改,依然能通过增量合并操作保证数据一致性,进而保障了数据的真实性,提升了用户体验。 |
