数据采集量的监测方法、系统、电子设备及存储介质

基本信息

申请号 CN202110310597.X 申请日 -
公开(公告)号 CN113051499A 公开(公告)日 2021-06-29
申请公布号 CN113051499A 申请公布日 2021-06-29
分类号 G06F16/955;G06F16/9532 分类 计算;推算;计数;
发明人 王琛;朱玉林;李青龙 申请(专利权)人 北京智慧星光信息技术有限公司
代理机构 北京智宇正信知识产权代理事务所(普通合伙) 代理人 李明卓
地址 100080 北京市海淀区海淀大街8号A座22层A区
法律状态 -

摘要

摘要 本发明公开了一种数据采集量的监测方法、系统、电子设备及存储介质,该方法包括:获取包括若干条采集数据的采集数据源;根据每一条采集数据分别获取字段信息,字段信息包括标签值、配置cid和详情页数据量;分别判断标签值是否等于预设值;不等于预设值则过滤采集数据;等于预设值则将字段信息存入MySQL数据库得到有效数据集;遍历有效数据集中所有配置cid,根据每一个配置cid查询所对应的频道URL数据量;将配置cid所对应的数据量相加得到频道URL总数据量;判断总数据量是否大于预设URL数量;若总数据量不大于预设URL数量则根据配置cid的详情页数据量进行数据监测;若总数据量大于预设URL数量则根据配置cid的频道URL数据量进行数据监测,实现了数据量的自动监测。