模型优化方法、设备及计算机存储介质

基本信息

申请号 CN202111193027.3 申请日 -
公开(公告)号 CN114048855A 公开(公告)日 2022-02-15
申请公布号 CN114048855A 申请公布日 2022-02-15
分类号 G06N5/04(2006.01)I;G06N3/08(2006.01)I 分类 计算;推算;计数;
发明人 朱蕾 申请(专利权)人 上海云从汇临人工智能科技有限公司
代理机构 北京润泽恒知识产权代理有限公司 代理人 李兴迪
地址 200120上海市浦东新区南汇新城镇环湖西二路888号C楼
法律状态 -

摘要

摘要 本申请提供一种模型优化方法、设备及计算机存储介质,主要包括针对目标模型中的各算子执行解耦处理,获得目标模型的解耦模型;针对解耦模型中的各算子以及各算子之间的推理数据执行结构反射处理,获得解耦模型的反射模型;针对反射模型执行异构量化处理,获得包含多条候选推理路径的异构量化模型;利用各候选推理路径针对预设测试任务分别执行推理分析,以确定异构量化模型的最优推理路径;基于最优推理路径,获得目标模型的优化模型。借此,本申请可有效提升模型的运算速度。