一种基于知识蒸馏的高效图像分类方法及系统

基本信息

申请号 CN202111474322.6 申请日 -
公开(公告)号 CN114202021A 公开(公告)日 2022-03-18
申请公布号 CN114202021A 申请公布日 2022-03-18
分类号 G06K9/62(2022.01)I;G06V10/20(2022.01)I;G06N3/04(2006.01)I;G06N3/08(2006.01)I;G06V10/774(2022.01)I;G06V10/764(2022.01)I 分类 计算;推算;计数;
发明人 李翔 申请(专利权)人 北京影谱科技股份有限公司
代理机构 北京知呱呱知识产权代理有限公司 代理人 郑兴旺
地址 100125北京市朝阳区朝阳公园南路3号楼6层601内702室
法律状态 -

摘要

摘要 本发明实施例公开了一种基于知识蒸馏的高效图像分类方法及系统,利用大模型学习到的知识去指导小模型进行训练,使得小模型在保证参数量和计算量可以大幅降低的情况下,获得与大模型相当的性能,从而实现模型的压缩与加速,大大提高图像分类的效率,改进后的图像分类器可以在保证原始图像分类器性能的同时,大大减少网络模型在进行图像分类时产生的不必要的计算量和存储消耗,使得小型的图像分类器可以更加高效的对图像进行分类,同时产生较小的内存消耗,从而有效节省计算和存储资源,使CNN可以更好地应用到图像分类算法中。