模型加速方法、装置、集成电路和存储介质

基本信息

申请号 CN202210586618.5 申请日 -
公开(公告)号 CN114676827A 公开(公告)日 2022-06-28
申请公布号 CN114676827A 申请公布日 2022-06-28
分类号 G06N3/04(2006.01)I;G06N3/08(2006.01)I 分类 计算;推算;计数;
发明人 张斌;沈小勇;吕江波 申请(专利权)人 苏州思谋智能科技有限公司
代理机构 华进联合专利商标代理有限公司 代理人 -
地址 518051广东省深圳市南山区高新南九道45号三航科技大厦22楼
法律状态 -

摘要

摘要 本申请涉及一种模型加速方法、装置、集成电路、存储介质和计算机程序产品。所述方法包括:根据训练后的待加速模型的激活函数类型,得到与所述训练后的待加速模型相匹配的操作融合方式;所述操作融合方式表示所述训练后的待加速模型的卷积、激活和量化操作的融合方式;根据所述训练后的待加速模型的操作融合方式,对所述训练后的待加速模型的卷积参数、激活系数和量化参数进行融合运算,得到所述卷积参数、所述激活系数和所述量化参数的融合结果;根据所述融合结果,对输入到所述训练后的待加速模型中的卷积数据进行推理加速,得到所述卷积数据的推理加速结果。采用本方法能够提升深度神经网络的推理效率。