一种GPU资源调度系统及其调度方法

基本信息

申请号 CN201910209567.2 申请日 -
公开(公告)号 CN109933433B 公开(公告)日 2021-06-25
申请公布号 CN109933433B 申请公布日 2021-06-25
分类号 G06F9/50;G06F9/48 分类 计算;推算;计数;
发明人 郑歆慰;褚海涛 申请(专利权)人 合肥中科类脑智能技术有限公司
代理机构 合肥昊晟德专利代理事务所(普通合伙) 代理人 王林
地址 230000 安徽省合肥市高新区创新大道2688号中新大厦11层1102-B236
法律状态 -

摘要

摘要 本发明公开了一种GPU资源调度系统及其调度方法,包括一GPU总集合,所述GPU总集合包括多个GPU节点;一GPU调用单元,所述GPU调用单元通信地连接所述GPU总集合,并调用所述GPU节点以形成一GPU子集合;以及一资源管理单元,所述资源管理单元通信地连接所述GPU总集合和所述GPU调用单元,并调用所述GPU节点以形成一GPU调度子集合,其中所述GPU调用单元监控所述GPU节点的调用信息,所述资源度量单元测量未调用状态的所述GPU并根据用户的资源请求以形成所述GPU调度子集合。能够通过调用一个新的GPU调度子集合来实现计算效率的提升,提高了整体系统的利用率,减少了多GPU资源请求的通信任务的负担。