基于消息队列的数据分片同步方法及系统

基本信息

申请号 CN202010682331.3 申请日 -
公开(公告)号 CN111988359A 公开(公告)日 2020-11-24
申请公布号 CN111988359A 申请公布日 2020-11-24
分类号 H04L29/08(2006.01)I;G06F3/06(2006.01)I 分类 电通信技术;
发明人 尚德重;焦臻桢;丁慧;田锐 申请(专利权)人 中科物缘科技(杭州)有限公司
代理机构 杭州九洲专利事务所有限公司 代理人 中科物缘科技(杭州)有限公司;中国科学院计算技术研究所数字经济产业研究院
地址 310015浙江省杭州市拱墅区储鑫路17-1号5号楼319室
法律状态 -

摘要

摘要 本发明涉及一种基于消息队列的数据分片同步方法及系统。本发明的目的是提供一种基于消息队列的数据分片同步方法及系统,以解决在数据同步过程中,数据节点失效和数据节点作恶所带来的数据不一致的问题。本发明的技术方案是:S1、管理节点获取各数据节点发送的当前数据节点已消费消息队列的消息序号M1;S2、管理节点将各数据节点已消费消息队列的消息序号M1中最大的消息序号作为选定的消息序号N;S3、数据节点在N>M1时,继续消费消息队列,直到本地消费的消息队列消息序号为N后停止消费;S4、管理节点获取各数据节点发送的当前数据节点已消费消息队列的消息序号M2和当前数据节点持有的每个数据分片的HASH值。本发明适用于数据存储领域。