一种增量数据卸载和装载的实施工具
基本信息
申请号 | CN201110360934.2 | 申请日 | - |
公开(公告)号 | CN102375891A | 公开(公告)日 | 2012-03-14 |
申请公布号 | CN102375891A | 申请公布日 | 2012-03-14 |
分类号 | G06F17/30(2006.01)I | 分类 | 计算;推算;计数; |
发明人 | 张家重;宋凯;把余咏;李衍珠;于海泉;祝鹏 | 申请(专利权)人 | 山东浪潮云网信息系统有限公司 |
代理机构 | - | 代理人 | - |
地址 | 250101 山东省济南市高新区舜雅路1036号 | ||
法律状态 | - |
摘要
摘要 | 本发明公开了一种增量数据卸载和装载的实施工具,属于一种数据管理的应用技术,通过配置文件结合SHELL脚本和数据库自带ETL工具实现了数据源的增量-全量判断抽取和装载处理;步骤如下:(1)设置配置文件、公共参数:通过配置文件对源数据库中待抽取表的内容和抽取方式进行描述;(2)运行抽取程序、状态记录:由抽取程序统一调度进行数据抽取,同时由状态记录程序记录抽取状态、抽取数据量的信息,抽取过程支持中断继续和自动压缩;(3)数据装载:由装载程序对数据进行装载,数据装载过程中进行增量-全量的判断并作全量处理和数据量核对检查。本发明方便了应用系统的运维管理,并降低了实施难度。 |
