一种基于云计算的数据采集分析系统及方法

基本信息

申请号 CN201910797160.6 申请日 -
公开(公告)号 CN110704403A 公开(公告)日 2020-01-17
申请公布号 CN110704403A 申请公布日 2020-01-17
分类号 G06F16/215;G06F16/906;G06F16/951;G06F16/9535 分类 计算;推算;计数;
发明人 杨勋;魏力强 申请(专利权)人 北京国联视讯信息技术股份有限公司
代理机构 北京金智普华知识产权代理有限公司 代理人 北京国联视讯信息技术股份有限公司
地址 100070 北京市丰台区南四环西路188号总部基地6区3号楼
法律状态 -

摘要

摘要 本发明公开了一种基于云计算的数据采集分析系统及方法,属于数据采集和分析领域。该系统包括结合数据采集系统服务器,根据任务调度编排,基于数据采集规则启动爬虫程序,根据输入参数抓取第一数据,并发送回大数据集群系统中;对抓取到的第一数据进行分类和筛选,实现数据清洗,并在数据清洗后,自动匹配大数据集群系统中的第二数据,通过相识度评分,关联可能相识的数据;从大数据集群系统中检索目标数据的必要数据源,展示查询匹配结果。本发明通过自主研发的技术框架,展示出爬虫程序抓取到的数据,方便进行清洗,并通过调度数据持久化,实现Web前端任务调度系统。通过任务调度系统,可以动态开启、关闭,定时启动爬虫程序。