一种基于事件流驱动的数据清洗方法和装置

基本信息

申请号 CN202011610990.2 申请日 -
公开(公告)号 CN112631755A 公开(公告)日 2021-04-09
申请公布号 CN112631755A 申请公布日 2021-04-09
分类号 G06F9/48;G06F11/14;G06F16/215 分类 计算;推算;计数;
发明人 骆振;王彭彭 申请(专利权)人 上海高顿教育科技有限公司
代理机构 上海科盛知识产权代理有限公司 代理人 赵继明
地址 200083 上海市虹口区中山北一路121号A3幢1001-1030室
法律状态 -

摘要

摘要 本发明涉及一种基于事件流驱动的数据清洗方法,具体包括:S1、获取目标业务的任务列表,检测是否存在正在处理的任务,若是则结束,若否则转至S2;S2、获取目标业务的数量处理流程信息;S3、加载组装任务实例组件及相应的梳理方法;S4、获取待操作的源数据;S5、将任务列表拆分成一个主任务和多个子任务,子任务进入消息队列进行任务分发;S6、备份原始主任务和子任务,获取标准化数据,更新子任务和主任务的处理结果并备份;S7、处理结果进行准确性校验,若存在数据异常转至S8,若否则释放任务列表的任务状态;S8、任务列表根据备份数据,数据回滚到初始状态。与现有技术相比,本发明具有易扩展、易维护、提高复用性和可靠性等优点。