基于Kettle和GeoTools的空间大数据自动化并行处理方法和系统

基本信息

申请号 CN202010722208.X 申请日 -
公开(公告)号 CN112000312A 公开(公告)日 2020-11-27
申请公布号 CN112000312A 申请公布日 2020-11-27
分类号 G06F8/20(2018.01)I 分类 计算;推算;计数;
发明人 李兵;郭明强;王波;曹威;张敏 申请(专利权)人 湖北地信科技集团股份有限公司
代理机构 武汉知产时代知识产权代理有限公司 代理人 湖北地信科技集团股份有限公司
地址 430000湖北省武汉市武汉东湖新技术开发区高新大道980号北斗大厦七层
法律状态 -

摘要

摘要 本发明公开了一种基于Kettle和GeoTools的空间大数据自动化并行处理方法和系统,方法包括以下步骤:通过Web客户端制作空间数据处理流程图;执行流程图相关参数配置,形成可解析的kettle文件;验证kettle文件的有效性;保存kettle文件到数据库资源库;空间数据处理平台从数据库资源库请求、解析kettle文件;基于GeoTools设计空间数据抽取、转换、加载方法;自动化并行执行空间数据处理流程;系统包括:客户端,用于空间数据处理流程的配置、编辑、保存kettle文件;空间数据处理平台,用于接收、解析kettle文件,按照客户端设计的数据处理流程,将原始空间数据经过处理流转到结果数据。本发明可以完成多种空间数据从抽取、转换、清洗到加载的处理过程,便捷、耦合度低、效率高。