一种基于flume系统的快速数据处理方法及装置
基本信息
| 申请号 | CN202111438260.3 | 申请日 | - |
| 公开（公告）号 | CN114090563A | 公开（公告）日 | 2022-02-25 |
| 申请公布号 | CN114090563A | 申请公布日 | 2022-02-25 |
| 分类号 | G06F16/215（2019.01）I;G06F16/2457（2019.01）I;G06F16/2458（2019.01）I;G06F9/54（2006.01）I | 分类 | 计算；推算；计数; |
| 发明人 | 徐浩;李耀;田骏;石龙;宋圣杰 | 申请（专利权）人 | 武汉众邦银行股份有限公司 |
| 代理机构 | 成都正煜知识产权代理事务所（普通合伙） | 代理人 | 徐金琼 |
| 地址 | 432200湖北省武汉市黄陂区盘龙城经济开发区汉口北大道88号汉口北国际商品交易中心D2区1-2层、22-23层 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明涉及信息技术领域，提供了一种基于flume系统的快速数据处理方法及装置，目的在于解决Flume系统附在生产机器上，而拦截器的清洗工作会占用生产机器的资源，对生产机器造成负担的问题。主要方案包括flume的source层采集原始数据，并将采集到的原始数据实时发送到分布式消息中间件模块的数据采集队列中；分布式数据处理模块实时消费分布式消息中间件模块的采集队列中的数据进行数据清洗处理；分布式数据处理模块将处理好的数据实时发送到分布式消息中间件模块的结果消息队列；flume的Sink层从分布式消息中间件模块的结果消息队列中获取已处理好的数据发送给接收方。 |
