数据构建方法

基本信息

申请号 CN202110759774.2 申请日 -
公开(公告)号 CN113468177A 公开(公告)日 2021-10-01
申请公布号 CN113468177A 申请公布日 2021-10-01
分类号 G06F16/22(2019.01)I;G06F16/21(2019.01)I 分类 计算;推算;计数;
发明人 张阳;杨秦敏;宁海元 申请(专利权)人 杭州玳数科技有限公司
代理机构 常州佰业腾飞专利代理事务所(普通合伙) 代理人 陈红桥
地址 310030浙江省杭州市西湖区紫霞街176号杭州互联网创新创业园2号楼8F
法律状态 -

摘要

摘要 本发明涉及大数据技术领域,为解决目前数据库工具在大批量构建数据时效率较低、资源消耗较大的技术问题,提出了一种数据构建方法,该方法包括以下步骤:通过yaml配置文件来配置数据库和DAGScheduleX接口请求信息;读取yaml配置文件中的数据库配置信息;通过读取的数据库配置信息创建对应的数据库写入表信息;根据所述数据库配置信息和所述数据库写入表信息构建数据同步任务的Json;读取DAGScheduleX接口请求信息,使用HTTP请求DAGScheduleX创建数据同步任务。本发明能够快速高效地构建大批量的数据,且资源消耗较低。