一种高效调度GPU能力的负载均衡方法及系统专利查询专利号|摘要-满商公司网

一种高效调度GPU能力的负载均衡方法及系统

基本信息

申请号	CN202110116747.3	申请日	-
公开（公告）号	CN112463349A	公开（公告）日	2021-03-09
申请公布号	CN112463349A	申请公布日	2021-03-09
分类号	G06F9/48(2006.01)I;G06F9/50(2006.01)I	分类	计算；推算；计数;
发明人	赵洲洋;靳雯	申请（专利权）人	日照睿安信息科技有限公司
代理机构	北京纽乐康知识产权代理事务所（普通合伙）	代理人	黄凡凡
地址	100013北京市东城区和平路北街6号6号楼一层101室
法律状态	-

摘要

本发明公开了一种高效调度GPU能力的负载均衡方法及系统，方法包括以下步骤：查询所有GPU卡的数量以及每张所述GPU卡的显存；根据目标进程组申请的显存大小进行初步筛选，筛选出可用显存资源满足该目标进程组申请的节点；进行二次筛选，从所述节点中筛选出可用显存资源满足该目标进程组申请的GPU卡；进行三次筛选，从所述GPU卡中筛选出可用显存资源最少的GPU卡，并将所述GPU卡所在的节点与所述目标进程组进行绑定；在与所述目标进程组绑定的所述节点上创建所述目标进程组。本发明的有益效果：可让使用者通过API描述来实现对一个可共享资源的申请，并能实现该种资源的调度，从而可使任务调度更加合理高效，提高了GPU的利用率。