一种应用于图像处理的渐进式权值量化方法、装置、介质及设备
基本信息
| 申请号 | 2020111123513 | 申请日 | - |
| 公开（公告）号 | CN112287987A | 公开（公告）日 | 2021-01-29 |
| 申请公布号 | CN112287987A | 申请公布日 | 2021-01-29 |
| 分类号 | G06K9/62(2006.01)I;G06N3/08(2006.01)I | 分类 | 计算；推算；计数; |
| 发明人 | 姚志强;周曦;李连强;梁俊文 | 申请（专利权）人 | 广州云从凯风科技有限公司 |
| 代理机构 | 上海光华专利事务所（普通合伙） | 代理人 | 代玲 |
| 地址 | 511458广东省广州市南沙区金隆路26号1009房(仅限办公用途) | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明公开了一种应用于图像处理的渐进式权值量化方法，包括：为深度神经网络模型中的每个待量化的权值参数确定对应的一个软掩码，软掩码用于表示所述权值参数的重要程度；迭代执行以下步骤，直至权值参数完成量化：基于权值参数的重要程度对待量化的权值参数进行分组，得到若干待量化权值组；对若干待量化权值组中重要程度最高的一组进行量化；基于量化后的权值参数以及待量化的权值参数重新训练深度神经网络模型，得到更新后的待量化的权值参数。本发明为权值参数设置一个软掩码，并基于软掩码对权值参数进行分组，然后采用渐进式的分组量化策略，先量化相对重要的权值参数，然后利用量化后的权值参数与待量化的权值参数重新训练所述深度神经网络，以弥补量化误差，避免了一次性量化所有网络参数带来的不可弥补的性能损失。 |
