一种对数据文件的数据清洗方法和数据文件处理方法
基本信息
申请号 | CN201911077291.3 | 申请日 | - |
公开(公告)号 | CN111026722A | 公开(公告)日 | 2020-04-17 |
申请公布号 | CN111026722A | 申请公布日 | 2020-04-17 |
分类号 | G06F16/174;G06F16/215 | 分类 | 计算;推算;计数; |
发明人 | 李亚萍;张亮;侯林勇;杨坤;袁率;方程;王俊;刘婉莹 | 申请(专利权)人 | 贵州小叮当信息技术有限公司 |
代理机构 | 重庆百润洪知识产权代理有限公司 | 代理人 | 贵州小叮当信息技术有限公司 |
地址 | 550008 贵州省贵阳市国家高新技术产业开发区科技产业园标准厂房辅助用房B303室 | ||
法律状态 | - |
摘要
摘要 | 本发明公开了对数据文件的数据清洗方法和数据文件处理方法,步骤一:确定待清洗数据,生成清洗队列;步骤二:制定多个清洗规则,编制清洗配置文件,生成源镜像数据文件;步骤三:进行数据清洗,并生成清洗日志文件及清洗后镜像数据文件;步骤四:将生成的文件各自单独进行压缩处理;步骤五:将各个压缩包发送至各个单独的数据库;步骤六:第一临时数据库和第二临时数据库设置时间自动删除压缩包,该发明一次性制定多个清洗规则,后期清洗直接根据多个清洗规则依次自动进行清洗,较传统手动的一个一个清洗效率大大提高,且可避免操作失误后文件丢失,无法找回的情况。 |
