一种基于一体化的Web-ETL大数据融合方法
基本信息
申请号 | CN202110366843.3 | 申请日 | - |
公开(公告)号 | CN113111104A | 公开(公告)日 | 2021-07-13 |
申请公布号 | CN113111104A | 申请公布日 | 2021-07-13 |
分类号 | G06F16/25(2019.01)I;G06F16/26(2019.01)I;G06F16/953(2019.01)I | 分类 | 计算;推算;计数; |
发明人 | 徐孟宇;罗钦;黄宇;冯琦;叶莎莎 | 申请(专利权)人 | 创意信息技术股份有限公司 |
代理机构 | 成都金英专利代理事务所(普通合伙) | 代理人 | 袁英 |
地址 | 610000四川省成都市青羊区万和路99号丽阳天下7-9室 | ||
法律状态 | - |
摘要
摘要 | 本发明公开了一种基于一体化的Web‑ETL大数据融合方法,包括以下步骤:S1:根据数据来源选择数据采集方式,进行数据采集,将采集的数据存入Web‑ETL平台数据库,进行数据库资源配置;S2:数据库资源配置完成后,自动抽取数据库的元数据,形成元数据列表S3:根据业务需求快速配置资源目录,形成对内数据资产的管理;S4:由数据资源目录发布数据服务目录,用于数据共享与数据交换;S5:采用Web‑ETL工具和数据抓取工具对Web‑ETL平台数据库中的数据进行加工处理、建模和调度。本发明通过一体化的Web‑ETL工具和数据抓取工具,提供面向对象的操作方式,一站式完成数据采集、加工处理流程,提高了用户对数据治理工具操作的延续性,降低数据处理的维护成本。 |
