一种基于事件流驱动的数据清洗方法和装置
基本信息
申请号 | CN202011610990.2 | 申请日 | - |
公开(公告)号 | CN112631755A | 公开(公告)日 | 2021-04-09 |
申请公布号 | CN112631755A | 申请公布日 | 2021-04-09 |
分类号 | G06F9/48;G06F11/14;G06F16/215 | 分类 | 计算;推算;计数; |
发明人 | 骆振;王彭彭 | 申请(专利权)人 | 上海高顿教育科技有限公司 |
代理机构 | 上海科盛知识产权代理有限公司 | 代理人 | 赵继明 |
地址 | 200083 上海市虹口区中山北一路121号A3幢1001-1030室 | ||
法律状态 | - |
摘要
摘要 | 本发明涉及一种基于事件流驱动的数据清洗方法,具体包括:S1、获取目标业务的任务列表,检测是否存在正在处理的任务,若是则结束,若否则转至S2;S2、获取目标业务的数量处理流程信息;S3、加载组装任务实例组件及相应的梳理方法;S4、获取待操作的源数据;S5、将任务列表拆分成一个主任务和多个子任务,子任务进入消息队列进行任务分发;S6、备份原始主任务和子任务,获取标准化数据,更新子任务和主任务的处理结果并备份;S7、处理结果进行准确性校验,若存在数据异常转至S8,若否则释放任务列表的任务状态;S8、任务列表根据备份数据,数据回滚到初始状态。与现有技术相比,本发明具有易扩展、易维护、提高复用性和可靠性等优点。 |
