主题网页数据抓取方法、装置、设备及存储介质

基本信息

申请号 CN202110793519.X 申请日 -
公开(公告)号 CN113449168A 公开(公告)日 2021-09-28
申请公布号 CN113449168A 申请公布日 2021-09-28
分类号 G06F16/951(2019.01)I;G06F16/9532(2019.01)I 分类 计算;推算;计数;
发明人 史延涛;谢永恒;火一莽 申请(专利权)人 北京锐安科技有限公司
代理机构 北京品源专利代理有限公司 代理人 赵翠香
地址 100044北京市海淀区西小口路66号中关村东升科技园北领地B-2号楼七层
法律状态 -

摘要

摘要 本发明实施例公开了主题网页数据抓取方法、装置、设备及存储介质。该方法包括:根据用户输入的搜索内容确定目标主题,并基于预设搜索策略从目标主题对应的待抓取链接队列中选取待抓取链接;获取待抓取链接对应的网页内容;根据内容相关度和链接相关度从待抓取链接中筛选目标链接,并将目标链接作为搜索结果进行反馈。采用上述技术方案,通过将网页内容和网页链接结合,判断内容相关度和链接相关度,进而从待抓取链接中筛选出目标链接,可以达到提高搜索精准度,提升搜索效率的技术效果。