模型分配方法、装置、电子设备及计算机可读存储介质

基本信息

申请号 CN202110997538.4 申请日 -
公开(公告)号 CN113703975A 公开(公告)日 2021-11-26
申请公布号 CN113703975A 申请公布日 2021-11-26
分类号 G06F9/50(2006.01)I;G06N3/063(2006.01)I 分类 计算;推算;计数;
发明人 张发恩;林国森 申请(专利权)人 创新奇智(重庆)科技有限公司
代理机构 北京超凡宏宇专利代理事务所(特殊普通合伙) 代理人 衡滔
地址 400000重庆市九龙坡区火炬大道69号重庆启迪科技园9号楼201室
法律状态 -

摘要

摘要 本申请提供一种模型分配方法、装置、电子设备及计算机可读存储介质,方法包括:获取各待分配模型;获取针对所述待分配模型的所有分配组合方案中,各NPU中的第一资源使用指标值;各所述NPU中的第一资源使用指标值表征各所述NPU中的资源使用情况;根据各所述分配组合方案下的各NPU中的第一资源使用指标值,确定出第一资源使用指标值最均衡的目标分配组合方案;按照所述目标分配组合方案将各所述待分配模型分别加载至对应的NPU中。这样,加载待分配模型后的智能盒子中,各NPU的性能相对均衡,从而可以提高智能盒子的性能利用率。