一种流式企业大数据处理方法和存储介质
基本信息
申请号 | CN202111394307.0 | 申请日 | - |
公开(公告)号 | CN114416785A | 公开(公告)日 | 2022-04-29 |
申请公布号 | CN114416785A | 申请公布日 | 2022-04-29 |
分类号 | G06F16/2455(2019.01)I;G06F16/22(2019.01)I;G06F16/906(2019.01)I;G06F16/182(2019.01)I;G06F9/54(2006.01)I | 分类 | 计算;推算;计数; |
发明人 | 刘子曜;白峻峰;张文战 | 申请(专利权)人 | 北京基智科技有限公司 |
代理机构 | 深圳市兰锋盛世知识产权代理有限公司 | 代理人 | 吴巧华 |
地址 | 100000北京市朝阳区北苑路乙108号6幢一层10号 | ||
法律状态 | - |
摘要
摘要 | 本发明涉及大数据处理技术领域,且公开了一种流式企业大数据处理方法和存储介质,述方法包含以下步骤:步骤一,对流式数据进行预处理1)处理累积的大数据即历史数据生成中间结果集,划分该结果集并进行缓存到各计算节点;2)实时监听数据源,并按照时间前后顺序对流式大数据进行升序排序。该种流式企业大数据处理方法和存储介质,通过预先对累积的历史大数据生成结果积,并对结果集进行划分,便于对上次的结果集进行承接,通过对数据源进行实时监听,使得自动对数据源进行监控,无需进行手动触发,而对数据的流式读取方式,大大的降低了对内存的占用,使得数据处理速度大大提升,当数据源的实时数据有更新时可以实时得到处理结果。 |
