模型分配方法、装置、电子设备及计算机可读存储介质
基本信息
申请号 | CN202110997538.4 | 申请日 | - |
公开(公告)号 | CN113703975A | 公开(公告)日 | 2021-11-26 |
申请公布号 | CN113703975A | 申请公布日 | 2021-11-26 |
分类号 | G06F9/50(2006.01)I;G06N3/063(2006.01)I | 分类 | 计算;推算;计数; |
发明人 | 张发恩;林国森 | 申请(专利权)人 | 创新奇智(重庆)科技有限公司 |
代理机构 | 北京超凡宏宇专利代理事务所(特殊普通合伙) | 代理人 | 衡滔 |
地址 | 400000重庆市九龙坡区火炬大道69号重庆启迪科技园9号楼201室 | ||
法律状态 | - |
摘要
摘要 | 本申请提供一种模型分配方法、装置、电子设备及计算机可读存储介质,方法包括:获取各待分配模型;获取针对所述待分配模型的所有分配组合方案中,各NPU中的第一资源使用指标值;各所述NPU中的第一资源使用指标值表征各所述NPU中的资源使用情况;根据各所述分配组合方案下的各NPU中的第一资源使用指标值,确定出第一资源使用指标值最均衡的目标分配组合方案;按照所述目标分配组合方案将各所述待分配模型分别加载至对应的NPU中。这样,加载待分配模型后的智能盒子中,各NPU的性能相对均衡,从而可以提高智能盒子的性能利用率。 |
