一种增量数据卸载和装载的实施工具

基本信息

申请号 CN201110360934.2 申请日 -
公开(公告)号 CN102375891A 公开(公告)日 2012-03-14
申请公布号 CN102375891A 申请公布日 2012-03-14
分类号 G06F17/30(2006.01)I 分类 计算;推算;计数;
发明人 张家重;宋凯;把余咏;李衍珠;于海泉;祝鹏 申请(专利权)人 山东浪潮云网信息系统有限公司
代理机构 - 代理人 -
地址 250101 山东省济南市高新区舜雅路1036号
法律状态 -

摘要

摘要 本发明公开了一种增量数据卸载和装载的实施工具,属于一种数据管理的应用技术,通过配置文件结合SHELL脚本和数据库自带ETL工具实现了数据源的增量-全量判断抽取和装载处理;步骤如下:(1)设置配置文件、公共参数:通过配置文件对源数据库中待抽取表的内容和抽取方式进行描述;(2)运行抽取程序、状态记录:由抽取程序统一调度进行数据抽取,同时由状态记录程序记录抽取状态、抽取数据量的信息,抽取过程支持中断继续和自动压缩;(3)数据装载:由装载程序对数据进行装载,数据装载过程中进行增量-全量的判断并作全量处理和数据量核对检查。本发明方便了应用系统的运维管理,并降低了实施难度。