用于下载网站数据的分布式方法和系统
基本信息
申请号 | CN201310198673.8 | 申请日 | - |
公开(公告)号 | CN103475687B | 公开(公告)日 | 2016-12-28 |
申请公布号 | CN103475687B | 申请公布日 | 2016-12-28 |
分类号 | H04L29/08(2006.01)I;G06F17/30(2006.01)I | 分类 | 电通信技术; |
发明人 | 吴自立 | 申请(专利权)人 | 北京网秦天下科技有限公司 |
代理机构 | 中科专利商标代理有限责任公司 | 代理人 | 赵伟 |
地址 | 100013 北京市东城区和平里东街11号院内四号楼 | ||
法律状态 | - |
摘要
摘要 | 本发明提供了用于下载网站数据的分布式方法和系统。该方法包括以下步骤:设定一个或多个下载组;在数据库中针对每个下载组维护相应的网站列表;一个或多个下载模块中的每个下载模块根据针对与其相关联的下载组所维护的网站列表来获取相应网站的一个或多个下载队列;以及所述每个下载模块根据所述一个或多个下载队列来进行下载。 |
