基于Redis分布式BitMap的应用

在实际开发中常常遇到如下需求:判断当前元素是否存在于已知的集合中,将已知集合中的元素维护一个 HashSet,使用时只需耗时 O(1)的时间复杂度便可判断出结果,Java内部或者Redis均提供相应的数据结构。使用此种方式除了占用内存空间外,几乎没有其它缺点。

当数据量达到亿级别时,内存空间的占用显著表现出来, BitMap便是解决此类问题的一种途径。

Redis BitMap能够存储的数据范围为 [0,2^32-1],超过 Integer.MAX_VALUE上界值。

为了简化讨论,假设讨论的集合元素的范围为 [0,Integer.MAX_VALUE],可以是其中的任何一个数。

使用 HashSet数据结构占用内存空间仅与集合中的元素数量(N)相关。当集合中元素数量为N时,所需的内存空间大概为 N*4/1024/1024MB, 1亿条数据约占内存空间 381MB

基于Redis的BitMap所占用的空间大小不与集合中元素数量相关,与集合中元素的最大值直接相关,因此BitMap所占用的内存空间范围为 [N / 8 / 1024 / 1024,Integer.MAX_VALUE / 8 / 1024 / 1024]

// 测试1亿、5亿、10亿、Integer.MAX_VALUE
List items = Arrays.asList(100000000, 500000000, 1000000000, Integer.MAX_VALUE);
for (Integer item : items) {
    int size = item / 8 / 1024 / 1024;
    System.out.printf("如果集合中最大值为%-10s,则所占用的内存空间为%3sMB%n",item, size);
}

这里给出了一组测试参考数据

如果集合中最大值为100000000 ,则所占用的内存空间为 11MB
如果集合中最大值为500000000 ,则所占用的内存空间为 59MB
如果集合中最大值为1000000000,则所占用的内存空间为119MB
如果集合中最大值为2147483647,则所占用的内存空间为255MB

当集合中数据增长到 10亿条时,使用BItMap最大占用内存约为 255MB,而使用HashSet增长到 3.8GB

使用Redis命令行可直接操作BitMap,将 offset位置的值标注为1,则表示当前数据存在。默认情况下未标注的位置值为0。

默认位不赋值为0,当数据存在于集合中,将对应位赋值为1
SETBIT key offset value
查看对应位数据是否存在(1表示存在,0表示不存在)
GETBIT key offset

这里提供一个SpringBoot生态的 RedisUtils工具类,内部封装操作Redis BitMap的工具方法。

// 将当前位置标记为true
RedisUtils.setBit(BIT_MAP_KEY, orderId, true);
// 获取指定位置的值(对应数值是否存在)
RedisUtils.getBit(BIT_MAP_KEY, orderId)

上述工具类的依赖如下,如果找不到Jar包,请直接使用Maven原始仓库源,阿里云尚未同步完成。


    xin.altitude.cms
    ucode-cms-common
    1.4.3

BitMap的存储与取值时间复杂度为 O(1),根据数值可直接映射下标。

BitMap占用内存空间复杂度为 O(n),与集合中元素的最大值正相关,不是集合中元素的数量。

缓存穿透是指当前请求的数据在缓存中不存在,需要访问数据库获取数据(数据库中也不存在请求的数据)。缓存穿透给数据库带来了压力,恶意缓存穿透甚至能造成数据库宕机。

使用BitMap动态维护一个集合,当访问数据库前,先查询数据的主键是否存在集合中,以此作为是否访问数据库的依据。

BitMap新增数据或者移除数据属于轻量级操作,检查操作的准确度依赖于动态集合维护的闭环的完整性。比如向数据库增加数据时需要向BitMap中添加数据,从数据库中删除数据需要从BitMap中移除数据。如果要求严格的检查可靠性,则可以单独维护一个分布式定时任务,定期更新BitMap数据。

布隆过滤器与BitMap有相似的应用场景,但也有一定的区别。给定一个数,BitMap能准确知道是否存在于已知集合中;布隆过滤器能准确判断是否不在集合中,却不能肯定存在于集合中。

BitMap增加或者移除数据时间复杂度为O(1),方便快捷。布隆过滤器新建容易,剔除数据操作比较繁琐。

在一些需要精确判断的场景,优先选择BitMap,比如判断手机号是否已经注册。

Redis BitMap不是一种新的数据结构,是利用字符串类型做的一层封装,看起来像一种新型数据结构。BitMap不像一种技术,更像是算法,在时间复杂度和空间复杂度之间寻找平衡点。

BitMap其它应用场景比如签到打卡,统计在线人数等等。

Original: https://www.cnblogs.com/javazhishitupu/p/15962910.html
Author: Java知识图谱
Title: 基于Redis分布式BitMap的应用

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/574880/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

  • linux软件相关基操–基于Debian

    更新软件源 apt-get update 更新升级所有软件 apt-get upgrade 更新某个软件 apt-get upgrade [package-name] 列出可更新的…

    Java 2023年6月8日
    080
  • java 5种IO模型

    人的痛苦会把自己折磨到多深呢? You cannot swim for new horizons until you have courage to lose sight of t…

    Java 2023年6月9日
    070
  • Activemq消息持久化

    官方文档: http://activemq.apache.org/persistence.html ActiveMq持久化相关配置:/usr/local/apache-active…

    Java 2023年5月29日
    060
  • Spring中获取bean的方式

    1. 获取bean 在上图的测试类中我们是通过id来获取bean的。实际上获取bean的方式有很多种,下面我们就一一说明。 由于 id 属性指定了 bean 的唯一标识,所以根据 …

    Java 2023年6月14日
    068
  • leetcode之二叉树

    专题:二叉树遍历 给你二叉树的根结点 root ,请你设计算法计算二叉树的 垂序遍历 序列。对位于 (row, col) 的每个结点而言,其左右子结点分别位于 (row + 1, …

    Java 2023年6月15日
    085
  • springboot轻量部署方案

    背景:jar包启动时,由于依赖较多,包过大,重启耗时较多 需求:服务快速启动、资源分类部署 方法: 一、新建一个springboot项目,随便引入一些依赖 三、配置打包形式、脚本 …

    Java 2023年6月8日
    069
  • Ubuntu 20.04 查看显示器信息

    安装 ddcutil apt install ddcutil 输入命令 ddcutil detect –verbose 输出类似如下: Output level: Verbose…

    Java 2023年6月7日
    041
  • redis

    Nosql概述 因为数据的访问量越来越大,单靠关系型数据库已经无法支撑用户需求,所以架构也在用户的需求下一步步进行演进。 1、单机Mysql时代 90年代,一个网站的访问量一般不会…

    Java 2023年6月9日
    064
  • spring boot 启动慢的原因

    停留在Spring logo那里差不多4分钟 SpringBoot启动慢的原因应该是某些应用占用了spring config server默认的端口8888,然后SpringClo…

    Java 2023年5月30日
    059
  • Spring、SpringBoot面试题总结

    开发框架面试题总结 1.spring是什么? 轻量级的开源的J2EE框架。它是⼀个容器框架,⽤来装javabean(java对象),中间层框架(万能胶) 可以起⼀个连接作⽤,⽐如说…

    Java 2023年6月9日
    070
  • Hash

    系列文章目录 提示:这里可以添加系列文章的所有文章的目录,目录需要自己手动添加例如:第一章 Python 机器学习入门之pandas的使用 提示:写完文章后,目录可以自动生成,如何…

    Java 2023年6月5日
    082
  • 线程不安全

    众所周知,多线程访问同一公共资源会带来线程的不安全,本文探讨一下这个问题的若干细节。 关于线程安全的基本问题 有关线程安全常涉及两个概念: 竞态条件:当两个线程竞争同一资源时,如果…

    Java 2023年5月30日
    060
  • Linux查看日志文件写入速度的4种方法

    原创:扣钉日记(微信公众号ID:codelogs),欢迎分享,转载请保留出处。 简介 有时,我们需要查看某个文件的增长速度,如日志文件,以此来感受系统的负载情况,因为一般情况下,日…

    Java 2023年6月7日
    073
  • flowable整合springboot

    地址:http://www.blackzs.com/archives/1523 此博客只是为了记忆相关知识点,大部分为网络上的文章,在此向各个文章的作者表示感谢! Original…

    Java 2023年5月29日
    052
  • Mybatis配置解析(核心配置文件)

    4、配置解析 4.1、核心配置文件 Mybatis的配置文件包含了会深深影响mybatis行为的设置和属性信息 mybatis-config.xml properties(属性)重…

    Java 2023年6月13日
    0111
  • Redis进阶(一)

    通过简单的KV数据库理解Redis 分为访问模块,操作模块,索引模块,存储模块 底层数据结构 除了String类型,其他类型都是一个键对应一个集合,键值对的存储结构采用哈希表 哈希…

    Java 2023年6月8日
    099
亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球