一种自动化实现数据实时同步的系统

基本信息

申请号 CN202110618313.3 申请日 -
公开(公告)号 CN113468170A 公开(公告)日 2021-10-01
申请公布号 CN113468170A 申请公布日 2021-10-01
分类号 G06F16/22(2019.01)I;G06F16/23(2019.01)I;G06F16/27(2019.01)I 分类 计算;推算;计数;
发明人 陈晓阳 申请(专利权)人 上海赛可出行科技服务有限公司
代理机构 - 代理人 -
地址 200131上海市浦东新区自由贸易试验区杨高北路2001号1幢4部位三层333室
法律状态 -

摘要

摘要 本发明涉及数据实时同步相关领域,具体为一种自动化实现数据实时同步的系统,包括Canal订阅BinLog日志模块、数据配置模块、数据同步模块和数据对账模块,本发明相比现有的同步的系统,有以下的优点:只需要进行基本的数据库连接信息的配置和需要监听的Kafka Topic的配置,不需要进行额外的任何配置;不需要进行全量同步,进行增量的同步,效率高;借助Kafka消息中间件的优势,体现在消息传递的速度快,这样可以加快数据实时同步的效率;不需要借助数据库的触发器机制进行同步,避免了id自增的限制;同步不需要借助时间戳方式,避免了临时表的引入,因为如果表同步的量很大,需要的临时表也会增加,这样需要的内存空间也很大。