基于MongoDB元数据管理的异构数据源同步的方法及系统
基本信息
| 申请号 | CN202010616235.9 | 申请日 | - |
| 公开（公告）号 | CN111737355A | 公开（公告）日 | 2020-10-02 |
| 申请公布号 | CN111737355A | 申请公布日 | 2020-10-02 |
| 分类号 | G06F16/27(2019.01)I | 分类 | - |
| 发明人 | 达星宇;吴明杰;李晓峰;吴智良;李奇;江魁栋 | 申请（专利权）人 | 广东粤财金融云科技股份有限公司 |
| 代理机构 | 广州云领专利代理事务所（普通合伙） | 代理人 | 广东粤财金融云科技股份有限公司 |
| 地址 | 519000广东省珠海市香洲区横琴新区宝华路6号105室-15178 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明公开了一种基于MongoDB元数据管理的异构数据源同步的方法，包括：S1、扫描MySQL源数据端待同步表结构，初始化源端数据表的元数据信息；S2、基于扫描结果，在MongoDB数据库中构建一个通用的数据库元数据模型；S3、对MySQL数据库的binlog操作日志进行监听，解析操作日志后对数据操作行为进行区分，并进行后续处理；S4、获取分布式消息队列中待消费的数据变更信息；S5、根据数据变更信息，获取其涉及在MongoDB的元数据最新版本信息：S6、根据MongoDB元数据信息和消息队列数据，实时转换构造Kudu的DML变更数据，并执行Kudu数据更新。本发明实现了关系型数据库MySQL与分布式列式数据库Kudu之间的数据实时同步问题，支持DML和DDL的数据操作变更，可维护不同历史版本的元数据结构信息。 |
