海量数据存储方法及海量数据存储系统
基本信息
申请号 | CN201710947918.0 | 申请日 | - |
公开(公告)号 | CN108304438A | 公开(公告)日 | 2018-07-20 |
申请公布号 | CN108304438A | 申请公布日 | 2018-07-20 |
分类号 | G06F17/30 | 分类 | 计算;推算;计数; |
发明人 | 曾勇;许毅文;郑雄威;张红卫 | 申请(专利权)人 | 深圳市天下房仓科技有限公司 |
代理机构 | 深圳国新南方知识产权代理有限公司 | 代理人 | 深圳市天下房仓科技有限公司 |
地址 | 518000 广东省深圳市龙华新区创业花园188栋向荣商务大厦1106(民治交警中队旁) | ||
法律状态 | - |
摘要
摘要 | 本发明公开了一种海量数据存储方法及海量数据存储系统,其中,该方法包括:主MQ集群接收外部发送的待存储数据,并将待存储数据交互给比较模块;比较模块判断缓存集群是否存在待存储数据;若缓存集群中存在待存储数据,则比较模块不处理待存储数据;若缓存集群中不存在待存储数据,则比较模块将待存储数据发送至数据库和缓存集群进行同步存储。本发明先将外部接收到的数据存储至主MQ集群,因此,通过这种异步方式减轻了数据库的入库压力。此外,比较模块判定当前待存储数据属于新的数据时,才将其存储至数据库,从而提升了数据库的数据有效存储率。进一步,相同的数据不进行处理,则提升了数据的处理速率。 |
