基于数据库日志并行实时增量统计的方法

基本信息

申请号 CN202111220905.6 申请日 -
公开(公告)号 CN114153809A 公开(公告)日 2022-03-08
申请公布号 CN114153809A 申请公布日 2022-03-08
分类号 G06F16/18;G06F16/22;G06F16/242;G06F16/2458;G06F16/27 分类 计算;推算;计数;
发明人 马杲灵;游飞龙;杨照能;石明恩;汪睿铭;杜华飞;宋赣源;石尧;孙青松 申请(专利权)人 贵州数联铭品科技有限公司
代理机构 北京市领专知识产权代理有限公司 代理人 罗慧
地址 550002 贵州省贵阳市南明区龙洞堡电子商务港A栋2单元9层7号
法律状态 -

摘要

摘要 本发明涉及一种基于业务系统数据进行并行实时增量统计的方法,包括单机模式和分布式两种情况,通过监听业务数据库的操作日志,将业务数据实时增量同步到ClickHouse节点,对业务数据无侵入,借助ClickHouse节点数据同步表的增量统计功能进行指标数据实时统计,将业务数据库的指标数据计算压力转移到ClickHouse节点上,提高了指标数据计算性能,实现了实时指标数据高并发的亚秒级查询,解决了频繁更新的海量数据的指标数据统计。