一种基于Merkle Tree变形算法的去重方法及装置

基本信息

申请号 CN201710507717.9 申请日 -
公开(公告)号 CN107368545B 公开(公告)日 2019-08-27
申请公布号 CN107368545B 申请公布日 2019-08-27
分类号 G06F16/13;G06F16/174 分类 计算;推算;计数;
发明人 高华龙 申请(专利权)人 深圳神州数码云科数据技术有限公司
代理机构 北京路浩知识产权代理有限公司 代理人 王庆龙;李官
地址 100085 北京市海淀区上地九街9号9号4层407号
法律状态 -

摘要

摘要 本发明实施例提供一种基于Merkle Tree变形算法的去重方法及装置,包括:对第一数据进行分块并计算每一个分块的哈希值,每一个分块设置引用计数;将第一分块的哈希值和第一哈希子树与预先建立好的第一哈希树进行对比:若第一分块的哈希值、内容和第一哈希树中的第一哈希值、内容相同,且第一哈希子树的根节点与第一哈希树中的第二哈希值相同时,则每一个分块的引用计数加1;若第一哈希子树的根节点与第一哈希树中的第二哈希值不同时,则将第一分块的引用计数加1,并将第一分块删除,得到第二数据,对第二数据执行上述操作,直到第二数据为最后一个分块时结束。本发明提供的实施例在保证去重率的前提下,可以提高去重效率,减少去重时间。