网络流量的数据处理方法、装置、设备及存储介质
基本信息
申请号 | CN202011433549.1 | 申请日 | - |
公开(公告)号 | CN112445771A | 公开(公告)日 | 2021-03-05 |
申请公布号 | CN112445771A | 申请公布日 | 2021-03-05 |
分类号 | G06F16/174(2019.01)I;H04L29/06(2006.01)I;G06F16/13(2019.01)I;G06F16/172(2019.01)I;G06F21/56(2013.01)I | 分类 | 计算;推算;计数; |
发明人 | 肖勤勇 | 申请(专利权)人 | 阿米华晟数据科技(江苏)有限公司 |
代理机构 | 北京致科知识产权代理有限公司 | 代理人 | 李洪娟;魏红雅 |
地址 | 215300江苏省苏州市昆山市玉山镇登云路288号海创大厦C座12楼 | ||
法律状态 | - |
摘要
摘要 | 本发明公开一种网络流量的数据处理方法、装置、设备及存储介质,该方法包括:获取待处理文件;根据所述待处理文件,确定第一哈希值;根据所述第一哈希值,获取目标bloom过滤器的起始地址;若基于所述起始地址对应的目标bloom过滤器确定所述待处理文件不存在,则对所述待处理文件进行存储,和/或对所述待处理文件进行安全检测。通过将文件的哈希值映射到多个bloom过滤器的起始地址,基于文件的哈希值找到对应的bloom过滤器,进一步基于bloom过滤器实现对文件的去重,相对于现有的基于哈希表进行去重,有效减少了内存空间的占用。 |
