一种数据流量控制方法、系统及存储介质

基本信息

申请号 CN202111182206.7 申请日 -
公开(公告)号 CN113810307A 公开(公告)日 2021-12-17
申请公布号 CN113810307A 申请公布日 2021-12-17
分类号 H04L12/819;H04L12/801 分类 电通信技术;
发明人 倪浩育;刘畅 申请(专利权)人 上海微盟企业发展有限公司
代理机构 北京集佳知识产权代理有限公司 代理人 姚莹丽
地址 200441 上海市宝山区长江路258号3幢B1-8008室
法律状态 -

摘要

摘要 本发明提供一种数据流量控制方法,包括:接收模块接收Kafka队列发送的Binlog数据,并将Binlog数据发送至限流模块;限流模块按预设流量向Kafka下游装置发送Binlog数据,并将超出预设流量的Binlog数据发送至等待队列;监听模块周期性地将等待队列中的Binlog数据提取至限流模块进行重新发送。本发明通过延长突发流量在Kakfa队列中的传输路径长度及等待时间的方式实现对突发流量的缓冲,有效避免突发流量对Kafka队列的阻塞,进而提升了数据处理系统整体的数据处理效率。本发明还提供一种数据流量控制系统及存储介质,具有上述有益效果。