一种基于云计算的数据采集分析系统及方法
基本信息
| 申请号 | CN201910797160.6 | 申请日 | - |
| 公开（公告）号 | CN110704403A | 公开（公告）日 | 2020-01-17 |
| 申请公布号 | CN110704403A | 申请公布日 | 2020-01-17 |
| 分类号 | G06F16/215;G06F16/906;G06F16/951;G06F16/9535 | 分类 | 计算；推算；计数; |
| 发明人 | 杨勋;魏力强 | 申请（专利权）人 | 北京国联视讯信息技术股份有限公司 |
| 代理机构 | 北京金智普华知识产权代理有限公司 | 代理人 | 北京国联视讯信息技术股份有限公司 |
| 地址 | 100070 北京市丰台区南四环西路188号总部基地6区3号楼 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明公开了一种基于云计算的数据采集分析系统及方法，属于数据采集和分析领域。该系统包括结合数据采集系统服务器，根据任务调度编排，基于数据采集规则启动爬虫程序，根据输入参数抓取第一数据，并发送回大数据集群系统中；对抓取到的第一数据进行分类和筛选，实现数据清洗，并在数据清洗后，自动匹配大数据集群系统中的第二数据，通过相识度评分，关联可能相识的数据；从大数据集群系统中检索目标数据的必要数据源，展示查询匹配结果。本发明通过自主研发的技术框架，展示出爬虫程序抓取到的数据，方便进行清洗，并通过调度数据持久化，实现Web前端任务调度系统。通过任务调度系统，可以动态开启、关闭，定时启动爬虫程序。 |
