分布式ETL数据采集方法及装置
基本信息
申请号 | CN201811454518.7 | 申请日 | - |
公开(公告)号 | CN109582723B | 公开(公告)日 | 2021-08-17 |
申请公布号 | CN109582723B | 申请公布日 | 2021-08-17 |
分类号 | G06F16/25;G06F16/27 | 分类 | 计算;推算;计数; |
发明人 | 王杰 | 申请(专利权)人 | 深圳市思迪信息技术股份有限公司 |
代理机构 | 深圳市欣亚知识产权代理事务所(普通合伙) | 代理人 | 葛勤;程光慧 |
地址 | 518000 广东省深圳市南山区粤海街道深圳湾科技生态园二区9栋B座14层08-14室 | ||
法律状态 | - |
摘要
摘要 | 本发明提供了一种分布式ETL数据采集方法及装置,通过将ETL采集任务集中在ETL数据服务器配置、加入任务列表,而后分配给分布设置的多个ETL执行服务器,多台ETL执行服务器根据ETL数据服务器的待执行任务表里面的数据来获取任务,从而使得原本单台机器单独执行ETL数据采集变为支持多台、分工实现数据采集,大大提高了采集的效率。 |
