一种分布式数据同步方法及系统

基本信息

申请号 CN202111182181.0 申请日 -
公开(公告)号 CN113901141A 公开(公告)日 2022-01-07
申请公布号 CN113901141A 申请公布日 2022-01-07
分类号 G06F16/27(2019.01)I;G06F16/2455(2019.01)I;G06F9/48(2006.01)I 分类 计算;推算;计数;
发明人 王济平;黎刚;刘继华;周健雄;汤克云;谢晓锋 申请(专利权)人 京信数据科技有限公司
代理机构 深圳余梅专利代理事务所(特殊普通合伙) 代理人 陈余才
地址 528400广东省中山市东区中山五路57号7层
法律状态 -

摘要

摘要 本发明涉及一种分布式数据同步方法及系统。方法包括步骤:调度器向源数据库查询是否需要进行同步任务,并根据查询结果弹性调整调度器查询间隔时间;调度器选择同步组件集群中的其中一个同步组件执行任务;同步组件进行任务切分并采用多个并发线程处理;同步组件从源数据库读取同步数据集并进行数据处理;同步组件生成临时唯一标识替换同步数据集的原有唯一标识,然后将同步数据集批量写入目标数据库后删除目标数据库中有更新的旧数据记录,最后批量还原同步数据集的原有唯一标识。本发明使得整个数据同步的性能得到极大提升。