一种对抗性类激活图的生成方法专利查询专利号|摘要-满商公司网

一种对抗性类激活图的生成方法

基本信息

申请号	CN202111251738.1	申请日	-
公开（公告）号	CN113989590A	公开（公告）日	2022-01-28
申请公布号	CN113989590A	申请公布日	2022-01-28
分类号	G06V10/774（2022.01）I;G06V10/74（2022.01）I;G06V10/82（2022.01）I;G06K9/62（2022.01）I;G06N3/04（2006.01）I;G06N3/08（2006.01）I	分类	计算；推算；计数;
发明人	马宏宾;刘亚楠	申请（专利权）人	南京智凝人工智能研究院有限公司
代理机构	-	代理人	-
地址	210038江苏省南京市经济技术开发区兴智路6号兴智科技园C栋第14层1410室
法律状态	-

摘要

本发明属于可视化方法技术领域，具体公开一种对抗性类激活图的生成方法，首先，计算两类图片，原始图片与对应对抗性样本在不同网络层的激活特征相似度，寻找特征相似度大幅下降的网络层，确定该层为特征分歧层。接着，输入一张原始图片或对抗样本，在特征分歧层计算各个特征图的权重，计算某个特征图权重时，将该层其余所有特征图均置0，记录此时的类别置信度，对所有特征图对应的置信度记录完后，对所有置信度进行归一化处理，对应置信度作为各个特征图的权重。最后，将各个特征图与对应权重进行点乘并全部相加，得到输入的原始图片或对抗样本的最终的对抗性类激活图。本发明提供了一种代表性强，可解释性强且全面的对抗性类激活图的生成方法。