一种基于边云协作的分布式机器学习任务在线调度方法

基本信息

申请号 CN202011413278.3 申请日 -
公开(公告)号 CN112579270A 公开(公告)日 2021-03-30
申请公布号 CN112579270A 申请公布日 2021-03-30
分类号 G06F9/48(2006.01)I;G06N20/00(2019.01)I 分类 计算;推算;计数;
发明人 王讷;周睿婷;李宗鹏;黄浩 申请(专利权)人 南京万般上品信息技术有限公司
代理机构 - 代理人 -
地址 211800江苏省南京市中国(江苏)自由已试验区南京片区研创园团结路99号孵鹰大厦1914室
法律状态 -

摘要

摘要 本发明公开了一种基于边云协作的分布式机器学习任务在线调度方法,包括以下步骤:步骤1:用整数线性规划对最小化总完成时间的ML任务调度问题进行建模;步骤2:基于不相关并行机模型建立目标函数的一个下界,然后使用新变量njsw替换原问题的xjsw和nj,对原问题进行重新定制;步骤3:将重新定制后的问题解耦成2个优化问题;步骤4:对于每一个到达的ML任务,依次将其Dj个数据块分发到worker上;步骤5:记新到达的ML任务集合为[Ja],当[Ja]中的所有任务均分配了workers之后,依次判断每个任务是否正在使用worker。本发明的优点在于:可以帮助云和边缘服务器提供商最大化其资源利用,以获得尽可能高的经济效益,同时根据各个用户的任务量以及需求差异,动态调度以使整体训练时间最短。