一种低bit混合精度量化提升模型精度的方法
基本信息
| 申请号 | CN202011622501.5 | 申请日 | - |
| 公开（公告）号 | CN114692818A | 公开（公告）日 | 2022-07-01 |
| 申请公布号 | CN114692818A | 申请公布日 | 2022-07-01 |
| 分类号 | G06N3/04（2006.01）I;G06N3/08（2006.01）I | 分类 | 计算；推算；计数; |
| 发明人 | 周飞飞 | 申请（专利权）人 | 合肥君正科技有限公司 |
| 代理机构 | 北京嘉东律师事务所 | 代理人 | - |
| 地址 | 230088安徽省合肥市高新区望江西路800号合肥高新股份有限公司C-3研发楼9层 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明提供一种低bit混合精度量化提升模型精度的方法，所述方法定性分析模型网络结构，通过对模型通道的计算及分析，确保推理不越界；以混合精度配置形式提高网络模型精度。本申请通过配置混合精度方式，确保模型在低bit过程中达到和8bit与全精度一样的精度。混合精度量化，定性分析网络的feature及weight，使得模型低bit量化精度更高。 |
