神经网络模型的量化方法、装置和系统、电子设备和存储介质

基本信息

申请号 CN202111153963.1 申请日 -
公开(公告)号 CN113902114A 公开(公告)日 2022-01-07
申请公布号 CN113902114A 申请公布日 2022-01-07
分类号 G06N3/08(2006.01)I;G06N3/063(2006.01)I 分类 计算;推算;计数;
发明人 袁之航;陈亮;赵亦彤;王辉;吴强 申请(专利权)人 南京后摩智能科技有限公司
代理机构 北京思源智汇知识产权代理有限公司 代理人 毛丽琴
地址 210046江苏省南京市栖霞区经济技术开发区兴智路6号兴智科技园C栋第18层1807室
法律状态 -

摘要

摘要 本公开实施例公开了一种神经网络模型的量化方法、装置和系统、电子设备和介质,其中,方法包括:分别针对待量化神经网络模型中的任一待量化网络层,获取所述任一待量化网络层的权重矩阵;对所述任一待量化网络层的权重矩阵进行矩阵变换,得到所述任一待量化网络层的待量化权重矩阵;对所述任一待量化网络层的待量化权重矩阵进行量化,得到所述任一待量化网络层的量化后权重矩阵;基于所述待量化神经网络模型中的任一待量化网络层的量化后权重矩阵,得到量化后神经网络模型。本公开实施例可以降低权重矩阵中各通道的权重数据的分布差异,能够减少量化误差,有助于提升量化后神经网络的精度。