一种基于一体化的Web-ETL大数据融合方法

基本信息

申请号 CN202110366843.3 申请日 -
公开(公告)号 CN113111104A 公开(公告)日 2021-07-13
申请公布号 CN113111104A 申请公布日 2021-07-13
分类号 G06F16/25(2019.01)I;G06F16/26(2019.01)I;G06F16/953(2019.01)I 分类 计算;推算;计数;
发明人 徐孟宇;罗钦;黄宇;冯琦;叶莎莎 申请(专利权)人 创意信息技术股份有限公司
代理机构 成都金英专利代理事务所(普通合伙) 代理人 袁英
地址 610000四川省成都市青羊区万和路99号丽阳天下7-9室
法律状态 -

摘要

摘要 本发明公开了一种基于一体化的Web‑ETL大数据融合方法,包括以下步骤:S1:根据数据来源选择数据采集方式,进行数据采集,将采集的数据存入Web‑ETL平台数据库,进行数据库资源配置;S2:数据库资源配置完成后,自动抽取数据库的元数据,形成元数据列表S3:根据业务需求快速配置资源目录,形成对内数据资产的管理;S4:由数据资源目录发布数据服务目录,用于数据共享与数据交换;S5:采用Web‑ETL工具和数据抓取工具对Web‑ETL平台数据库中的数据进行加工处理、建模和调度。本发明通过一体化的Web‑ETL工具和数据抓取工具,提供面向对象的操作方式,一站式完成数据采集、加工处理流程,提高了用户对数据治理工具操作的延续性,降低数据处理的维护成本。