一种基于资讯指纹的资讯去重方法
基本信息
申请号 | CN201510055730.6 | 申请日 | - |
公开(公告)号 | CN105989033A | 公开(公告)日 | 2016-10-05 |
申请公布号 | CN105989033A | 申请公布日 | 2016-10-05 |
分类号 | G06F17/30(2006.01)I | 分类 | 计算;推算;计数; |
发明人 | 张军生 | 申请(专利权)人 | 北京云悦共创网络技术有限公司 |
代理机构 | 北京安博达知识产权代理有限公司 | 代理人 | 北京中搜网络技术股份有限公司;北京中搜云悦网络技术有限公司 |
地址 | 100191 北京市海淀区学院路51号首亨科技大厦0902室 | ||
法律状态 | - |
摘要
摘要 | 本发明提供了一种基于资讯指纹的资讯去重方法,其特征在于:所述方法包括以下步骤:I、获取所述资讯的信息;II、根据所述资讯指纹获取所述资讯的核心词向量;III、根据所述资讯的指纹信息和所述核心词向量所述资讯进行分组聚类。该方法于指纹计算法,对比现有技术中效果单一的去重方法,本发明通过关键词及正文指纹合二为一的方式提高了召回率,提高5%左右,达到75%的召回率,准确率达到90%以上,处理千万数据在一个小时左右。 |
