提升爬虫代理质量的方法、装置及计算机可读存储介质
基本信息
| 申请号 | CN201910403144.4 | 申请日 | - |
| 公开（公告）号 | CN110147271A | 公开（公告）日 | 2019-08-20 |
| 申请公布号 | CN110147271A | 申请公布日 | 2019-08-20 |
| 分类号 | G06F9/48;G06F9/50;G06F16/951 | 分类 | 计算；推算；计数; |
| 发明人 | 刘希龙 | 申请（专利权）人 | 重庆八戒传媒有限公司 |
| 代理机构 | 北京酷爱智慧知识产权代理有限公司 | 代理人 | 重庆八戒传媒有限公司 |
| 地址 | 401121 重庆市渝北区北部新区青枫北路30号(拓展区A5栋凤凰C座第5层) | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明公开了一种提升爬虫代理质量的方法、装置及计算机可读存储介质，所述提升爬虫代理质量的方法包括：为若干代理池设置不同优先级；基于代理池优先级及其使用率来进行代理池的调用。本发明通过对代理池合理分级，将代理按照优质程度分类放入代理池中，并根据代理池的代理使用率进行代理池切换，实现网络代理的有效管理，将优质代理的使用率提升到最大化，提高爬虫程序的网络资源获取效率；检测代理的可用状态，保证其请求的成功性，排除不可于用的代理，一定程度上减少了对于网络资源的占用，降低网络请求对目标服务器的伤害。 |
