深度学习模型的定点量化方法及装置
基本信息
| 申请号 | CN202110535674.1 | 申请日 | - |
| 公开（公告）号 | CN113408696A | 公开（公告）日 | 2021-09-17 |
| 申请公布号 | CN113408696A | 申请公布日 | 2021-09-17 |
| 分类号 | G06N3/04（2006.01）I;G06N3/08（2006.01）I;G06K9/62（2006.01）I | 分类 | 计算；推算；计数; |
| 发明人 | 不公告发明人 | 申请（专利权）人 | 珠海亿智电子科技有限公司 |
| 代理机构 | 广州嘉权专利商标事务所有限公司 | 代理人 | 张志辉 |
| 地址 | 519080广东省珠海市高新区唐家湾镇港乐路8号大洲科技园B区厂房803室 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明公开了深度学习模型的定点量化方法及装置，该方法包括以下步骤：输入校准数据至目标模型，按顺序将目标模型的模型参数和激活值作为量化对象，执行以下步骤：输入校准集数据，按层提取目标模型的量化对象，获取量化对象的分布直方图，通过自适应KL散度方程对量化对象的分布直方图进行缩放，并基于预设量化位数获取不同的小数点位置对应的KL散度值，比较得出量化对象的第一量化结果。本发明弥补了KL散度算法仅关注概率的缺陷，优化量化结果，在保证量化后的模型一定的精度的情况下，能大幅度提升量化的速度，提高了量化的效率，节省了时间。 |
