一种自适应调整激活量化位宽的方法
基本信息
| 申请号 | CN202011622451.0 | 申请日 | - |
| 公开（公告）号 | CN114692862A | 公开（公告）日 | 2022-07-01 |
| 申请公布号 | CN114692862A | 申请公布日 | 2022-07-01 |
| 分类号 | G06N3/08（2006.01）I;G06N3/04（2006.01）I;G06F9/38（2006.01）I;G06F9/28（2006.01）I | 分类 | 计算；推算；计数; |
| 发明人 | 张东 | 申请（专利权）人 | 合肥君正科技有限公司 |
| 代理机构 | 北京嘉东律师事务所 | 代理人 | - |
| 地址 | 230088安徽省合肥市高新区望江西路800号合肥高新股份有限公司C-3研发楼9层 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明提出了一种自适应调整激活量化位宽的方法，旨在克服现有技术中存在的缺陷，解决量化后模型无法达到最佳加速比和精度的问题。所述方法包括：S1，数据量化：对于待量化的数据进行量化，得到低比特的数据；S2，在训练低比特模型时传给下一层的数据，对于激活采用模型，量化后卷积，其结果为：S3，在推理的时候，在不改变权重通道的情况下，减小激活的位宽能够减小卷积累加结果超过16bit的情况，如果conv（Wsqf,Fuqf）>1.0就减少激活的量化位宽直至满足conv（Wsqf,Fuqf）≤1.0；并且对该层的每一个输出通道做相同的操作，从而达到根据每个通道的分布情况来决定其相应的位宽。 |
