一种大数据平台去中心化的调度和执行方法、装置

基本信息

申请号 CN202011631395.7 申请日 -
公开(公告)号 CN112822250A 公开(公告)日 2021-05-18
申请公布号 CN112822250A 申请公布日 2021-05-18
分类号 H04L29/08 分类 电通信技术;
发明人 王晟 申请(专利权)人 鲸灵科技有限责任公司
代理机构 南京苏高专利商标事务所(普通合伙) 代理人 吴静波
地址 225000 江苏省扬州市邗江区瘦西湖路195号花都汇商务中心2号楼
法律状态 -

摘要

摘要 本发明公开了一种大数据平台去中心化的任务调度触发和执行方法,若干个调度触发模块以进程为单位分布在ZooKeeper集群中同时运行、调度触发模块将被调度大数据计算任务的META信息写入ZooKeeper集群、任务执行模块以进程为单位,分布在ZooKeeper集群多个ZNode节点中运行、任务执行模块从ZooKeeper的ZNode树上进行依次遍历;当发现某个子过程具备执行条件时,锁定该任务、获取任务信息,执行该任务,并将任务的子过程执行结果和状态信息写入MySQL的任务历史、用户通过WebSocket协议建立后端WEB模块的连接,实时掌控ZooKeeper树中记录的所有任务的配置和状态信息。