基于多页面比较的网页元数据自动抽取方法和系统

基本信息

申请号 CN200910054701.2 申请日 -
公开(公告)号 CN101957816B 公开(公告)日 2013-03-20
申请公布号 CN101957816B 申请公布日 2013-03-20
分类号 G06F17/30(2006.01)I 分类 计算;推算;计数;
发明人 甘雨;李沛剡 申请(专利权)人 上海华燕房盟网络科技股份有限公司
代理机构 上海东创专利代理事务所(普通合伙) 代理人 上海华燕置业发展有限公司;上海华燕房盟网络科技股份有限公司
地址 200052 上海市延安西路1326号生物大厦16楼
法律状态 -

摘要

摘要 本发明提供了一种基于多页面比较的网页元数据自动抽取方法和系统,属于互联网信息处理领域。互联网的页面都是用松散的HTML来组织的,而HTML语法验证不严格,语义和表现格式混合在一起,给网页数据抽取带来了很大的困难。本发明则能很好的解决这个问题。本发明基于一个假设“动态页面是由同一个模板填入不同的数据生成的”,因而可以通过比较多个相似的页面,进行规约推导,从而得到生成这组页面的模板。本发明包括以下部分:(1)网页采集器:从预设的网站抓取网页;(2)网页分类器:将相似的页面归为一组;(3)网页元数据分析模块:推导模板、抽取元数据;(4)网页元数据存储:存储和索引元数据;(5)元数据搜索引擎:检索和显示元数据。