一种基于批处理知识集成(BAKE)的数据自蒸馏方法
基本信息
申请号 | CN202111163512.6 | 申请日 | - |
公开(公告)号 | CN113869434A | 公开(公告)日 | 2021-12-31 |
申请公布号 | CN113869434A | 申请公布日 | 2021-12-31 |
分类号 | G06K9/62(2006.01)I;G06N3/04(2006.01)I;G06N3/08(2006.01)I;G06N20/00(2019.01)I | 分类 | 计算;推算;计数; |
发明人 | 王华龙;李泽辉;吴均城;杨海东 | 申请(专利权)人 | 佛山市广工大数控装备技术发展有限公司 |
代理机构 | 广州科沃园专利代理有限公司 | 代理人 | 王维霞 |
地址 | 528200广东省佛山市南海高新区佛高科技智库中心A座4楼 | ||
法律状态 | - |
摘要
摘要 | 本发明公开了目标检测技术领域,具体的说是一种基于批处理知识集成(BAKE)的数据自蒸馏方法,该数据自蒸馏方法包括以下步骤:S1:给定样本的小批量和训练中的网络,对相似性样本进行储存;S2:避免自我认知强化,对亲和矩阵A进行规范化;S3:对一个批次内的样本进行预测,然后得到产生软学习目标;S4:实现知识的完全融合;与现有的知识集成方法相比,解决了传统知识集成需通过额外的网络或分支进行处理,节省了所需要的计算量和内存开销,将BAKE运用于网络架构中,能够提高它们的分类性能,避免了在处理过程中导致错误的监督。 |
