基于数据库日志并行实时增量统计的方法
基本信息
申请号 | CN202111220905.6 | 申请日 | - |
公开(公告)号 | CN114153809A | 公开(公告)日 | 2022-03-08 |
申请公布号 | CN114153809A | 申请公布日 | 2022-03-08 |
分类号 | G06F16/18;G06F16/22;G06F16/242;G06F16/2458;G06F16/27 | 分类 | 计算;推算;计数; |
发明人 | 马杲灵;游飞龙;杨照能;石明恩;汪睿铭;杜华飞;宋赣源;石尧;孙青松 | 申请(专利权)人 | 贵州数联铭品科技有限公司 |
代理机构 | 北京市领专知识产权代理有限公司 | 代理人 | 罗慧 |
地址 | 550002 贵州省贵阳市南明区龙洞堡电子商务港A栋2单元9层7号 | ||
法律状态 | - |
摘要
摘要 | 本发明涉及一种基于业务系统数据进行并行实时增量统计的方法,包括单机模式和分布式两种情况,通过监听业务数据库的操作日志,将业务数据实时增量同步到ClickHouse节点,对业务数据无侵入,借助ClickHouse节点数据同步表的增量统计功能进行指标数据实时统计,将业务数据库的指标数据计算压力转移到ClickHouse节点上,提高了指标数据计算性能,实现了实时指标数据高并发的亚秒级查询,解决了频繁更新的海量数据的指标数据统计。 |
