一种自动化的数据加载方法及装置

基本信息

申请号 CN202111184802.9 申请日 -
公开(公告)号 CN113626514B 公开(公告)日 2022-02-25
申请公布号 CN113626514B 申请公布日 2022-02-25
分类号 G06F16/25(2019.01)I;G06F16/23(2019.01)I;G06F16/27(2019.01)I 分类 计算;推算;计数;
发明人 陈晓希;史晨阳;王磊;刘淼;彭强;薛淇升;吴晓刚;张翠;何如意;侯强 申请(专利权)人 中国光大银行股份有限公司
代理机构 北京集佳知识产权代理有限公司 代理人 张静
地址 100033北京市西城区太平桥大街25号、甲25号中国光大中心
法律状态 -

摘要

摘要 本发明公开了一种自动化的数据加载方法及装置,包括:调取至少包含待加载的数据表的属性信息的配置文件,基于预先生成SQL模板和配置文件的对应关系,将配置文件中的第一信息导入到SQL模板中;基于预先生成的HIVE模板和配置文件的对应关系,将所述配置文件中的第二信息导入到HIVE模板中;第一信息和第二信息至少包含待加载的数据表的属性信息;通过HIVE模板,将待加载的数据表包含的数据导入到大数据平台中;将SQL模板中信息记录到所述大数据平台中;所述SQL模板中的信息至少包括待加载的数据表的属性信息。由此,实现了向大数据平台进行自动化数据加载的方法,提高了数据加载的准确度,降低了失误率。