一种突破IP限制的爬虫实现方法及系统
基本信息
| 申请号 | CN201610729927.8 | 申请日 | - |
| 公开（公告）号 | CN106331108A | 公开（公告）日 | 2017-01-11 |
| 申请公布号 | CN106331108A | 申请公布日 | 2017-01-11 |
| 分类号 | H04L29/08(2006.01)I;G06F17/30(2006.01)I | 分类 | 电通信技术; |
| 发明人 | 周灏;董超 | 申请（专利权）人 | 北京量科邦信息技术有限公司 |
| 代理机构 | 北京和信华成知识产权代理事务所（普通合伙） | 代理人 | 胡剑辉 |
| 地址 | 100080 北京市海淀区丹棱街甲1号互联网金融中心11层1102 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 一种突破IP限制的爬虫实现方法，包括：(1)爬虫调度服务器下发一个抓取任务，抓取任务包含任务ID、HTTP请求的URL以及全部参数、最长等待时间；(2)客户端接收到抓取任务后，立即发起HTTP请求来抓取相应的页面；(3)页面抓取完成，检查有没有超过最长等待时间，若没有超过最长等待时间，则执行步骤(4)，否则执行步骤(1)；(4)将抓取到的数据发送到爬虫调度服务器，同时标注任务ID，抓取到的数据为HTTP响应返回的字符串。还提供了一种突破IP限制的爬虫实现系统。 |
