一种数据流量控制方法、系统及存储介质
基本信息
申请号 | CN202111182206.7 | 申请日 | - |
公开(公告)号 | CN113810307A | 公开(公告)日 | 2021-12-17 |
申请公布号 | CN113810307A | 申请公布日 | 2021-12-17 |
分类号 | H04L12/819;H04L12/801 | 分类 | 电通信技术; |
发明人 | 倪浩育;刘畅 | 申请(专利权)人 | 上海微盟企业发展有限公司 |
代理机构 | 北京集佳知识产权代理有限公司 | 代理人 | 姚莹丽 |
地址 | 200441 上海市宝山区长江路258号3幢B1-8008室 | ||
法律状态 | - |
摘要
摘要 | 本发明提供一种数据流量控制方法,包括:接收模块接收Kafka队列发送的Binlog数据,并将Binlog数据发送至限流模块;限流模块按预设流量向Kafka下游装置发送Binlog数据,并将超出预设流量的Binlog数据发送至等待队列;监听模块周期性地将等待队列中的Binlog数据提取至限流模块进行重新发送。本发明通过延长突发流量在Kakfa队列中的传输路径长度及等待时间的方式实现对突发流量的缓冲,有效避免突发流量对Kafka队列的阻塞,进而提升了数据处理系统整体的数据处理效率。本发明还提供一种数据流量控制系统及存储介质,具有上述有益效果。 |
