一种卷积神经网络量化计算方法及系统

基本信息

申请号 CN201911167437.3 申请日 -
公开(公告)号 CN110991608A 公开(公告)日 2020-04-10
申请公布号 CN110991608A 申请公布日 2020-04-10
分类号 G06N3/04;G06N3/063 分类 计算;推算;计数;
发明人 李政达;任军;郦晨侠;吕向东;盛荣华;徐伟明;徐瑞 申请(专利权)人 恒烁半导体(合肥)股份有限公司
代理机构 合肥道正企智知识产权代理有限公司 代理人 合肥恒烁半导体有限公司
地址 230000 安徽省合肥市庐阳区天水路与太和路交口西北庐阳中科大校友创新园11号楼
法律状态 -

摘要

摘要 本发明涉及神经网络算法硬件实现领域,公开了一种卷积神经网络量化计算方法及系统,所述计算方法包括:将卷积神经网络各计算层按照计算精度和算力要求,分别匹配使用多值化量化和多比特量化方式进行量化,将多比特量化后的计算层映射到高精度阵列,进行高精度计算;将多值化量化后的计算层映射到高算力阵列,进行高算力计算,根据高精度计算结果和高算力计算结果结合所述非计算层完成卷积神经网络的计算。本发明提高卷积神经网络推理的速度,在保证准确率的同时,尽可能地降低网络功耗,具有较高的实用价值和广泛的应用前景。