大数据的订单去重方法和装置

基本信息

申请号 CN202110027862.3 申请日 -
公开(公告)号 CN113377812A 公开(公告)日 2021-09-10
申请公布号 CN113377812A 申请公布日 2021-09-10
分类号 G06F16/2455(2019.01)I;G06F16/16(2019.01)I 分类 计算;推算;计数;
发明人 唐明;谭吉湘;杨陆;王晓宇 申请(专利权)人 北京数衍科技有限公司
代理机构 北京超凡宏宇专利代理事务所(特殊普通合伙) 代理人 徐丽
地址 100000北京市朝阳区利泽中二路2号B座五层510室
法律状态 -

摘要

摘要 本发明提供了大数据的订单去重方法和装置,应用于服务器,包括:接收客户端发送的订单信息,订单信息包括关键字段、账单文件名和订单数据;根据关键字段判断缓存中是否存在布隆过滤器;如果不存在,则加载布隆过滤器;如果存在,则判断账单文件名是否存在于布隆过滤器中;如果不存在,则将订单数据存储到数据库和缓存中,并且将账单文件名添加到布隆过滤器中;如果存在,则通过缓存和数据库对账单文件名进行确认,得到确认结果;其中,关键字段包括硬件标识和销售时间,可以通过布隆过滤器减少内存占用,并且达到高效的去重数据的目的。