网络流量的数据处理方法、装置、设备及存储介质

基本信息

申请号 CN202011433549.1 申请日 -
公开(公告)号 CN112445771A 公开(公告)日 2021-03-05
申请公布号 CN112445771A 申请公布日 2021-03-05
分类号 G06F16/174(2019.01)I;H04L29/06(2006.01)I;G06F16/13(2019.01)I;G06F16/172(2019.01)I;G06F21/56(2013.01)I 分类 计算;推算;计数;
发明人 肖勤勇 申请(专利权)人 阿米华晟数据科技(江苏)有限公司
代理机构 北京致科知识产权代理有限公司 代理人 李洪娟;魏红雅
地址 215300江苏省苏州市昆山市玉山镇登云路288号海创大厦C座12楼
法律状态 -

摘要

摘要 本发明公开一种网络流量的数据处理方法、装置、设备及存储介质,该方法包括:获取待处理文件;根据所述待处理文件,确定第一哈希值;根据所述第一哈希值,获取目标bloom过滤器的起始地址;若基于所述起始地址对应的目标bloom过滤器确定所述待处理文件不存在,则对所述待处理文件进行存储,和/或对所述待处理文件进行安全检测。通过将文件的哈希值映射到多个bloom过滤器的起始地址,基于文件的哈希值找到对应的bloom过滤器,进一步基于bloom过滤器实现对文件的去重,相对于现有的基于哈希表进行去重,有效减少了内存空间的占用。