基于多页面比较的网页元数据自动抽取方法和系统
基本信息
申请号 | CN200910054701.2 | 申请日 | - |
公开(公告)号 | CN101957816A | 公开(公告)日 | 2011-01-26 |
申请公布号 | CN101957816A | 申请公布日 | 2011-01-26 |
分类号 | G06F17/30(2006.01)I | 分类 | 计算;推算;计数; |
发明人 | 甘雨;李沛剡 | 申请(专利权)人 | 上海华燕房盟网络科技股份有限公司 |
代理机构 | - | 代理人 | - |
地址 | 200434 上海市吉浦路375弄34号103室 | ||
法律状态 | - |
摘要
摘要 | 本发明提供了一种基于多页面比较的网页元数据自动抽取方法和系统,属于互联网信息处理领域。互联网的页面都是用松散的HTML来组织的,而HTML语法验证不严格,语义和表现格式混合在一起,给网页数据抽取带来了很大的困难。本发明则能很好的解决这个问题。本发明基于一个假设“动态页面是由同一个模板填入不同的数据生成的”,因而可以通过比较多个相似的页面,进行规约推导,从而得到生成这组页面的模板。本发明包括以下部分:(1)网页采集器:从预设的网站抓取网页;(2)网页分类器:将相似的页面归为一组;(3)网页元数据分析模块:推导模板、抽取元数据;(4)网页元数据存储:存储和索引元数据;(5)元数据搜索引擎:检索和显示元数据。 |
