神经网络的量化方法、装置、计算机设备及存储介质
基本信息
| 申请号 | CN202111234520.5 | 申请日 | - |
| 公开（公告）号 | CN113962365A | 公开（公告）日 | 2022-01-21 |
| 申请公布号 | CN113962365A | 申请公布日 | 2022-01-21 |
| 分类号 | G06N3/04（2006.01）I;G06N3/08（2006.01）I | 分类 | 计算；推算；计数; |
| 发明人 | 张卓翼 | 申请（专利权）人 | 上海阡视科技有限公司 |
| 代理机构 | 北京博思佳知识产权代理有限公司 | 代理人 | 王茹 |
| 地址 | 201103上海市徐汇区虹梅路1900号6楼6-78单元 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本公开提供一种神经网络的量化方法、装置、计算机设备及存储介质。所述神经网络包括多个块，每个块包括所述神经网络中的至少一个网络层；所述方法包括：获取神经网络中一组块的目标量化配置集合；基于获取的一组块的目标量化配置集合，对神经网络中另一组块的候选量化配置集合进行过滤，得到另一组块的目标量化配置集合，使得在另一组块经所述另一组块的目标量化配置集合中的量化配置进行量化，且所述一组块经所述一组块的目标量化配置集合中的量化配置进行量化的情况下，神经网络的目标性能参数的边界值均不超出目标性能参数对应的预设参数范围；基于各个块的目标量化配置确定所述神经网络的目标量化配置，并对所述神经网络进行量化处理。 |
