一种自动化实现数据实时同步的系统
基本信息
申请号 | CN202110618313.3 | 申请日 | - |
公开(公告)号 | CN113468170A | 公开(公告)日 | 2021-10-01 |
申请公布号 | CN113468170A | 申请公布日 | 2021-10-01 |
分类号 | G06F16/22(2019.01)I;G06F16/23(2019.01)I;G06F16/27(2019.01)I | 分类 | 计算;推算;计数; |
发明人 | 陈晓阳 | 申请(专利权)人 | 上海赛可出行科技服务有限公司 |
代理机构 | - | 代理人 | - |
地址 | 200131上海市浦东新区自由贸易试验区杨高北路2001号1幢4部位三层333室 | ||
法律状态 | - |
摘要
摘要 | 本发明涉及数据实时同步相关领域,具体为一种自动化实现数据实时同步的系统,包括Canal订阅BinLog日志模块、数据配置模块、数据同步模块和数据对账模块,本发明相比现有的同步的系统,有以下的优点:只需要进行基本的数据库连接信息的配置和需要监听的Kafka Topic的配置,不需要进行额外的任何配置;不需要进行全量同步,进行增量的同步,效率高;借助Kafka消息中间件的优势,体现在消息传递的速度快,这样可以加快数据实时同步的效率;不需要借助数据库的触发器机制进行同步,避免了id自增的限制;同步不需要借助时间戳方式,避免了临时表的引入,因为如果表同步的量很大,需要的临时表也会增加,这样需要的内存空间也很大。 |
