基于正交相似度蒸馏的图文匹配模型压缩与加速方法及系统
基本信息
| 申请号 | CN202110261563.6 | 申请日 | - |
| 公开（公告）号 | CN112990296A | 公开（公告）日 | 2021-06-18 |
| 申请公布号 | CN112990296A | 申请公布日 | 2021-06-18 |
| 分类号 | G06K9/62 | 分类 | 计算；推算；计数; |
| 发明人 | 王亮;黄岩;王聿铭;袁辉;纪文峰;李凯 | 申请（专利权）人 | 中科人工智能创新技术研究院（青岛）有限公司 |
| 代理机构 | 济南圣达知识产权代理有限公司 | 代理人 | 祖之强 |
| 地址 | 266300 山东省青岛市胶州市胶州经济技术开发区长江路1号创业大厦1117室 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明提供了一种基于正交相似度蒸馏的图文匹配模型压缩与加速方法及系统，该方法包括：S1：获取图文匹配数据集，并构建学生网络模型和老师网络模型；S2：对所述图文匹配数据集进行预处理和数据加载；S3：基于学生网络模型的相似度矩阵和老师网络模型的相似度矩阵，计算差分相似度矩阵；基于差分相似度矩阵，计算奇异值；基于奇异值，构建正交相似度软蒸馏损失函数和正交相似度硬蒸馏损失函数；计算联合损失函数；基于联合损失函数对学生网络模型进行训练；S4：对训练完成后的学生网络模型进行性能测试，得到图文匹配数据集的性能评测结果和训练好的学生网络模型；S5：将待测图像或文本输入训练好的学生网络模型，输出文本或图像。 |
