一种基于sqlldr2和ogg数据同步的实现方法

基本信息

申请号 CN202110965086.1 申请日 -
公开(公告)号 CN113704213A 公开(公告)日 2021-11-26
申请公布号 CN113704213A 申请公布日 2021-11-26
分类号 G06F16/178(2019.01)I;G06F16/182(2019.01)I;G06F16/27(2019.01)I 分类 计算;推算;计数;
发明人 陈典银;张德权 申请(专利权)人 辽宁振兴银行股份有限公司
代理机构 郑州欧凯专利代理事务所(普通合伙) 代理人 毛瑞官
地址 110000辽宁省沈阳市沈河区北站路61号
法律状态 -

摘要

摘要 本发明涉及数据处理技术领域,公开了一种基于sqlldr2和ogg数据同步的实现方法,所述sqlldr2客户端用于对Oracle数据库数据的导出,将数据以txt形式导出,传输至HDFS分布式文件系统内,所述oggogg同步工具源端实时读取redo log并解析成sql语句以二进制文件的方式传输到目标端,目标端ogg同步工具进程读取文件并导入到HDFS分布式文件系统内。本发明通过使用sqlldr2工具根据不同需求格式化输出所需要数据到txt文件中以及采用ogg工具指定采集特定表及特定字段的数据,能够将Oracle数据进行同步备份存储至HDFS分布式文件系统内,解决了数据频繁导入导出、数据跨平台难以导入以及无法根据需求新增或删除需要同步的表的问题,实现了增量数据自动同步,减少了每次手动同步的工作量。