一种hadoop环境下的农业数据监控方法
基本信息
申请号 | CN201810402053.4 | 申请日 | - |
公开(公告)号 | CN108595664B | 公开(公告)日 | 2022-05-31 |
申请公布号 | CN108595664B | 申请公布日 | 2022-05-31 |
分类号 | G06F16/182(2019.01)I | 分类 | 计算;推算;计数; |
发明人 | 李梅汝;王志鸿;王文建 | 申请(专利权)人 | 天津泰达科技工业园有限公司 |
代理机构 | 合肥市科融知识产权代理事务所(普通合伙) | 代理人 | - |
地址 | 201800 上海市嘉定区环城路2222号3幢313室 | ||
法律状态 | - |
摘要
摘要 | 本发明请求保护一种hadoop环境下的农业数据监控方法,通过hadoop环境下存储方法对农业系统中的原始数据记录进行存储,采用非主键的索引方法对校验字段进行索引,使用格网编码方式,采用异构数据层存储Hbase对象的数据结构,基于Hbase对象的结构模式将任务进行分解,采用HBase对原始数据记录建立时间戳索引和MapReduce的并行化方式完成校验规则的数据监控。本发明能够高效可扩展地通过分布式集群的横向扩展,解决数据海量化问题;通过异构数据统一建模,解决数据异构化带来的不便;通过为校验规则涉及的字段建立辅助查询索引,以支持校验规则执行时进行高效查询处理。 |
