模型加速方法、装置、集成电路和存储介质
基本信息
申请号 | CN202210586618.5 | 申请日 | - |
公开(公告)号 | CN114676827A | 公开(公告)日 | 2022-06-28 |
申请公布号 | CN114676827A | 申请公布日 | 2022-06-28 |
分类号 | G06N3/04(2006.01)I;G06N3/08(2006.01)I | 分类 | 计算;推算;计数; |
发明人 | 张斌;沈小勇;吕江波 | 申请(专利权)人 | 苏州思谋智能科技有限公司 |
代理机构 | 华进联合专利商标代理有限公司 | 代理人 | - |
地址 | 518051广东省深圳市南山区高新南九道45号三航科技大厦22楼 | ||
法律状态 | - |
摘要
摘要 | 本申请涉及一种模型加速方法、装置、集成电路、存储介质和计算机程序产品。所述方法包括:根据训练后的待加速模型的激活函数类型,得到与所述训练后的待加速模型相匹配的操作融合方式;所述操作融合方式表示所述训练后的待加速模型的卷积、激活和量化操作的融合方式;根据所述训练后的待加速模型的操作融合方式,对所述训练后的待加速模型的卷积参数、激活系数和量化参数进行融合运算,得到所述卷积参数、所述激活系数和所述量化参数的融合结果;根据所述融合结果,对输入到所述训练后的待加速模型中的卷积数据进行推理加速,得到所述卷积数据的推理加速结果。采用本方法能够提升深度神经网络的推理效率。 |
