一种数据处理方法及装置

基本信息

申请号 CN201710790718.9 申请日 -
公开(公告)号 CN107748752B 公开(公告)日 2021-07-06
申请公布号 CN107748752B 申请公布日 2021-07-06
分类号 G06F16/23;G06F16/25 分类 计算;推算;计数;
发明人 李红伟 申请(专利权)人 新智云数据服务有限公司
代理机构 北京同达信恒知识产权代理有限公司 代理人 黄志华
地址 200000 上海市杨浦区政立路421号1001室
法律状态 -

摘要

摘要 本发明涉及大数据技术领域,尤其涉及一种数据处理方法及装置,为了解决现有大数据平台在进行数据处理时,无法保证数据真实性的问题,该方法为,通过指定工具从指定源系统抽取并加载初始数据集,并将加载后的初始数据集划分为若干初始数据子集,分批判断当前初始数据子集是否需要修改初始数据条,针对待修改的初始数据子集执行增量合并操作,获得相应目标数据子集,采用预设的业务逻辑规则,为获得的各个目标数据子集包含的若干目标数据条建立关联关系,这样,指定大数据平台通过指定工具能与指定源系统实现衔接,而且,即便是数据加载到指定大数据平台后被修改,依然能通过增量合并操作保证数据一致性,进而保障了数据的真实性,提升了用户体验。