一种基于分布式系统的海量交通数据快速处理方法

基本信息

申请号 CN201510925950.X 申请日 -
公开(公告)号 CN105528431B 公开(公告)日 2019-05-14
申请公布号 CN105528431B 申请公布日 2019-05-14
分类号 G06F16/182(2019.01)I; G06F16/172(2019.01)I 分类 计算;推算;计数;
发明人 张善海; 熊贵喜; 蔡朝辉; 杜博文; 凌萍; 谢志普 申请(专利权)人 新智认知数据服务有限公司
代理机构 上海远同律师事务所 代理人 新智认知数据服务有限公司
地址 201201 上海市浦东新区川沙路955号11幢221室
法律状态 -

摘要

摘要 本发明提供一种基于分布式系统的海量交通数据快速处理方法,包括:步骤a:在时间和空间上将海量交通数据分块,分块后的所述交通数据具有时间属性标识和空间属性标识;步骤b:在内存中以细粒度存储一定数量的常用的所述交通数据,在文件系统中以粗粒度存储除所述内存存储的交通数据之外的交通数据;步骤c:当处理程序请求处理数据时,判断所请求的交通数据是否在内存中;步骤d:如果所请求的交通数据存储在内存中,则直接处理相应数据;以及步骤e:如果所请求的交通数据存储在所述文件系统中,则先根据文件信息从所述文件系统中将所述交通数据读入内存,再对所述交通数据进行处理。本发明方法查询速度快,且效率高。