首页/ 金服软件（广州）有限公司/ 专利详情

一种基于网络爬虫的数据处理方法、系统及云平台

基本信息

申请号 CN202011618649.1 申请日 -
公开（公告）号 CN112380418B 公开（公告）日 2021-07-16
申请公布号 CN112380418B 申请公布日 2021-07-16
分类号 G06F16/951;G06F16/27 分类 计算；推算；计数;
发明人 詹能勇;刘振宇 申请（专利权）人 金服软件（广州）有限公司
代理机构 北京联瑞联丰知识产权代理事务所（普通合伙） 代理人 黄冠华
地址 510700 广东省广州市天河区粤垦路68号901（部位901-1室）（仅限办公）
法律状态 -

摘要

摘要 本发明涉及互联网与数据处理技术领域，具体而言，涉及一种基于网络爬虫的数据处理方法、系统及云平台。本发明通过获取用户输入的网页爬虫指令，网页爬虫指令包括目标网页信息和爬取对象集合，然后获取与目标网页信息和爬取对象集合对应的目标爬虫数据，并将目标爬虫数据保存至目标分布式保存节点中，其中，目标分布式保存节点是分布式存储系统中与网页对象集合对应的保存节点；相比于现有技术，本发明能够提升大规模数据爬取时爬虫数据保存的可靠性，并通过针对当前网页内容数据和历史网页内容数据进行爬取，能够充分的爬取用户所需的数据，提高数据爬取的完整性。