一种轻量级ETL处理平台
基本信息
申请号 | CN201911108855.5 | 申请日 | - |
公开(公告)号 | CN111125045A | 公开(公告)日 | 2020-05-08 |
申请公布号 | CN111125045A | 申请公布日 | 2020-05-08 |
分类号 | G06F16/182;G06F16/25;G06F16/28 | 分类 | 计算;推算;计数; |
发明人 | 李甫 | 申请(专利权)人 | 量子云未来(北京)信息科技有限公司 |
代理机构 | 北京知呱呱知识产权代理有限公司 | 代理人 | 盛明星 |
地址 | 100021 北京市海淀区云会里金雅园过街楼六层6235 | ||
法律状态 | - |
摘要
摘要 | 本发明实施例公开了一种轻量级ETL处理平台,所述轻量级ETL处理平台包括前端任务收发模块和后端数据处理模块,所述前端任务收发模块包括浏览器、H5操作单元和MySQL数据库管理系统,所述浏览器用于配置操作参数,所述H5操作单元对操作进行可视化展示,所述MySQL数据库管理系统中放置不同的支持Spark操作的函数库或操作指令,所述后端数据处理模块包括Spark集群,所述Spark集群内对数据进行分布式存储,根据MySQL数据库管理系统中放置的Spark操作的函数库或操作指令进行大数据计算,计算结果输出至MySQL数据库管理系统。本发明解决了现有大数据处理专业度要求高、处理速度慢的问题。 |
