一种应用于数据分析任务的工作流调度方法
基本信息
申请号 | CN201810195483.3 | 申请日 | - |
公开(公告)号 | CN108415740B | 公开(公告)日 | 2021-05-18 |
申请公布号 | CN108415740B | 申请公布日 | 2021-05-18 |
分类号 | G06F9/445;G06F9/48 | 分类 | 计算;推算;计数; |
发明人 | 王永波;傅玉生 | 申请(专利权)人 | 成都优易数据有限公司 |
代理机构 | 成都弘毅天承知识产权代理有限公司 | 代理人 | 徐金琼 |
地址 | 611730 四川省成都市郫县德源镇(菁蓉小镇创业公社)大禹东路66号3栋9楼901室附-1 | ||
法律状态 | - |
摘要
摘要 | 本发明提供了一种应用于数据分析任务的工作流调度方法,涉及计算机软件领域,包括S1:接收任务序列,解析并封装任务序列中的每一个最小任务单元;S2:根据最小任务单元构建数据流向图,数据流向图中包含节点;S3:对数据流向图中的节点进行初始化;S4:在初始化后的数据流向图中查找并行的节点;S5:通过多个工作线程按照数据流向图执行任务,并行的节点同时执行;S6:循环S4‑S5,直到带有结束标识的任务执行完毕,整个工作流调度完成。本发明解决了目前的调度方法中往往由一个节点管家负责各个节点的任务执行,一旦一个节点程序运行出错或者节点管家宕机,会导致整个数据分析任务执行失败的问题。 |
