• 热门行业
  • 装修建材
  • 家居生活
  • 餐饮食品
  • 母婴教育
  • 电脑办公
  • 服装首饰
  • 汽车工具
  • 家电数码
  • 机械化工
  • 休闲美容
返回上一页
专利状态
一种数据计数去重方法、系统、服务器及存储介质
有效
专利申请进度
申请
2018-05-23
申请公布
2018-11-13
授权
2022-03-22
预估到期
2038-05-23
专利基础信息
申请号 CN201810498172.4 申请日 2018-05-23
申请公布号 CN108804242A 申请公布日 2018-11-13
授权公布号 CN108804242B 授权公告日 2022-03-22
分类号 G06F9/54;G06F9/50;G06F16/2453;G06F16/27
分类 计算;推算;计数;
申请人名称 武汉斗鱼网络科技有限公司
申请人地址 湖北省武汉市东湖开发区软件园东路1号软件产业4.1期B1栋11楼
专利法律状态
  • 2022-03-22
    授权
    状态信息
    授权
  • 2018-11-13
    公布
    状态信息
    公布
摘要
本发明公开了一种数据计算去重方法、系统、服务器及存储介质,适用于大数据中的数据去重。本发明提供的方法包括:接收调用请求,利用dubbo组件进行负载均衡;解析所述请求,根据所述请求中预设的去重级别参数,在所述服务器上创建对应数量的redis数据存储bitmap;获取所述请求中的去重内容参数和所述去重级别参数,通过Bloom Filter算法计算得到去重结果,当所述去重级别大于1级且去重结果返回值为0时,重新计算一组hash函数,再次通过Bloom Filter算法去重。本发明中通过dubbo组件进行负载均衡,同时根据预设的去重等级,通过Bloom Filter算法进行对应级别的计数去重,不仅可以保障数据得到高效快速的处理,而且能大大减少数据误杀概率,提升去重的准确性。