文件数据源入库解析接入方法
基本信息
申请号 | CN202110367783.7 | 申请日 | - |
公开(公告)号 | CN113111108A | 公开(公告)日 | 2021-07-13 |
申请公布号 | CN113111108A | 申请公布日 | 2021-07-13 |
分类号 | G06F16/25(2019.01)I;G06F16/27(2019.01)I | 分类 | 计算;推算;计数; |
发明人 | 周阳;陆文斌;何文江;廖文绪;钟凯 | 申请(专利权)人 | 创意信息技术股份有限公司 |
代理机构 | 成都金英专利代理事务所(普通合伙) | 代理人 | 袁英 |
地址 | 610000四川省成都市青羊区万和路99号丽阳天下7-9室 | ||
法律状态 | - |
摘要
摘要 | 本发明公开了一种文件数据源入库解析接入方法、装置、设备及存储介质,该方法包括获取待接入数据文件,构建设计器和执行器,以使设计器和执行器满足待接入数据文件的文件解析入库及文件保留不入库;一方面,利用设计器,根据待接入数据配置接入信息和处理信息;另一方面,利用执行器,根据所述配置接入信息和处理信息对待接入数据文件进行数据读取、数据处理和数据写入。本发明所提供的方法采用了设计器与执行器分离,数据获取与数据入库分离,再加上Kafka消息中间件的方式进行实现。旨在解决现有技术中存在的在面临的业务场景较多,数据来源的方式种类均未知,数据接入时可能存在数据量反复变化等情况时,数据接入效率低依旧不能很好解决的技术问题。 |
