一种GPU算力管理方法、介质、设备及系统
基本信息
| 申请号 | CN202210572151.9 | 申请日 | - |
| 公开（公告）号 | CN114661482A | 公开（公告）日 | 2022-06-24 |
| 申请公布号 | CN114661482A | 申请公布日 | 2022-06-24 |
| 分类号 | G06F9/50（2006.01）I | 分类 | 计算；推算；计数; |
| 发明人 | 罗宏智;梅亮;许春香;罗天 | 申请（专利权）人 | 成都索贝数码科技股份有限公司 |
| 代理机构 | 成都九鼎天元知识产权代理有限公司 | 代理人 | - |
| 地址 | 610041四川省成都市高新区新园南二路2号 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明公开了一种GPU算力管理方法、介质、设备及系统，属于容器编排领域，包括流程：测量流程：设置测量流程用于测量所需GPU、CPU和内存资源，并将测量结果传递给Ray框架；资源分配和服务调度流程：在巡检任务负载情况和节点资源使用情况后，按照测量结果进行资源分配和服务调度，来满足任务执行需要。本发明可以大大提高资源利用率，使得几十种模型在共存情况下资源可以得到高效使用，以节省算力资源，并且实现任务消费吞吐量最大化。本发明可以提高资源利用率，节省算力资源，实现任务消费吞吐量最大化。 |
