一种解决大数据系统中历史数据变化的方法
基本信息
申请号 | CN202110675041.0 | 申请日 | - |
公开(公告)号 | CN113342834A | 公开(公告)日 | 2021-09-03 |
申请公布号 | CN113342834A | 申请公布日 | 2021-09-03 |
分类号 | G06F16/23(2019.01)I;G06F16/22(2019.01)I | 分类 | 计算;推算;计数; |
发明人 | 张春剑;吴凯;潘自滨;刘水军 | 申请(专利权)人 | 众淼创新科技(青岛)股份有限公司 |
代理机构 | 武汉聚信汇智知识产权代理有限公司 | 代理人 | 郝雅娟 |
地址 | 266000山东省青岛市李沧区金水路187号 | ||
法律状态 | - |
摘要
摘要 | 本发明提供一种解决大数据系统中历史数据变化的方法,包括:将业务表设置更新时间字段,用于标注字段的更新时间;操作型数据存储ODS任务每天凌晨执行一次,检查业务表的更新时间字段,生成一条操作型数据存储ODS层数据;拉链表模块检查所有操作型数据存储ODS层数据最新的一条记录与各自对应的上一时间的记录进行对比,若有变化,则将该表该天有变化这一事件记录到变化通知表;拉链表任务结束后,执行生成业务日表的任务,该任务检查变化通知表,根据变化的表以及变化的日期,执行相应的任务单元,生成业务日表数据。该方法可以解决历史数据变化后,应该何时重新计算,以及哪部分应该重新计算的问题,从而节约大量计算资源。 |
