便于海量多源异构数据的清洗整合存储的方法
基本信息
| 申请号 | CN202011225571.7 | 申请日 | - |
| 公开（公告）号 | CN112347093B | 公开（公告）日 | 2021-08-03 |
| 申请公布号 | CN112347093B | 申请公布日 | 2021-08-03 |
| 分类号 | G06F16/215（2019.01）I;G06F16/27（2019.01）I | 分类 | 计算；推算；计数; |
| 发明人 | 刘源;周含笑;姜宇;于雷;赵辉;谢雨;王兆祥;董丽娜;李墨野;刘京京;王建勋 | 申请（专利权）人 | 哈尔滨航天恒星数据系统科技有限公司 |
| 代理机构 | 北京君恒知识产权代理有限公司 | 代理人 | 王恒 |
| 地址 | 150028黑龙江省哈尔滨市高新技术产业开发区科技创新城创新路1616号5号楼 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明涉及一种便于海量多源异构数据的清洗整合存储的方法，属于海量多源异构数据处理领域，海量多源异构数据处理中全局因素无法整合等问题；本发明通过构造数据源集合、遍历集合，记录类型及数据协议、数据接入环节、协议适配环节，形成1阶数据，推送缓存队列、拉取1阶数据，清洗环节，形成2阶数据，推送缓存队列、取2阶数据，主被动混合模式转换整合环节，形成3阶数据，推送缓存队列以及最终拉取3阶数据，分布存储环节，完成最终存储。本发明提供的方法，方便快捷、流程化明确，可降低海量多源异构数据的清洗整合存储各环节的耦合程度，通过逐层迁移、降阶处理，可有效降低海量数据压力、削峰填谷，能够提升整个方法过程的鲁棒性。 |
