一种多源数据实时聚合方法和系统
基本信息
申请号 | CN202111264739.X | 申请日 | - |
公开(公告)号 | CN114003628A | 公开(公告)日 | 2022-02-01 |
申请公布号 | CN114003628A | 申请公布日 | 2022-02-01 |
分类号 | G06F16/2455(2019.01)I;G06F16/242(2019.01)I | 分类 | 计算;推算;计数; |
发明人 | 洪志权;蔡昆颖;于崇刚;余彩福 | 申请(专利权)人 | 粤港澳国际供应链(广州)有限公司 |
代理机构 | 广东翰锐律师事务所 | 代理人 | 胡厚财 |
地址 | 510000广东省广州市南沙区港荣一街3号401-1房(仅限办公) | ||
法律状态 | - |
摘要
摘要 | 本申请实施例公开了一种多源数据实时聚合方法和系统,其中方法包括:一种多源数据实时聚合方法,通过获取canal服务端从若干个来源库中批量获取指定数据库的binlog对象;对binlog对象进行批量处理:检查binlog对象的实体类型是否为结构变更类型,若是,则从binlog对象中获取原执行SQL,去掉库名并生成聚合库可执行SQL检查binlog对象的数据变更类型,并根据数据变更类型生成数据变更标准SQL;对binlog对象批量处理完毕后,将可执行SQL和/或标准SQL发送至聚合库,继而实现从N个来源库实时汇聚到聚合库,实现实时高效的多源数据聚合的目的。 |
