Redis 生产架构选型对比,一文整治选择困难症

前言

在写开源项目的时候,想到了要支持多种redis部署方式,于是对于这块的生产环境的架构选型展开调研。

一、引擎版本

推荐使用更新的引擎版本以支持更多的特性,

Redis 6.0新特性说明

  • 模块系统新增多个API。
  • 支持SSL/TLS加密。
  • 支持新的Redis协议:RESP3。
  • 服务端支持多模式的客户端缓存。
  • 支持多线程IO。
  • 副本中支持无盘复制(diskless replication)。
  • Redis-benchmark新增了Redis集群模式。
  • 支持重写Systemd。
  • 支持Disque模块。

Redis 5.0新特性说明

  • 云数据库Redis 5.0版本大幅度优化内核,运行更加稳定,同时新增Stream、账号管理、审计日志等多种特性,满足您更多场景下的使用需求。
  • 新的数据类型:流数据(Stream)。详细说明请参见Redis Streams。
  • 新增账号管理功能。
  • 新增日志管理功能,支持审计日志、运行日志和慢日志,您可以通过日志管理查询读写操作、敏感操作(如KEYS、FLUSHALL)和管理类命令的使用记录以及慢日志。
  • 新增基于快照的缓存分析功能。
  • 新的定时器(Timers)、集群( Cluster)和字典(Dictionary)模块的API。
  • RDB中增加LFU和LRU信息。
  • 集群管理器从Ruby (redis-trib.rb)移植到了redis-cli中的C语言代码。
  • 新增有序集合(Sorted Set)命令ZPOPMIN、ZPOPMAX、BZPOPMIN和BZPOPMAX。
  • 升级Active Defragmentation至v2版本。
  • 增强HyperLogLog的实现。
  • 优化内存统计报告。
  • 为许多有子命令的命令增加了HELP子命令。
  • 提高了客户端频繁连接和断开连接时的性能表现。
  • 升级Jemalloc至5.1版本。
  • 新增命令CLIENT ID和CLIENT UNBLOCK。
  • 新增了为艺术而生的LOLWUT命令。
  • 弃用slave术语(需要API向后兼容的情况例外)。
  • 对网络层进行了多处优化。

  • 进行了一些Lua相关的改进。

  • 新增动态HZ(Dynamic HZ)以平衡空闲CPU使用率和响应性。

  • 对Redis核心代码进行了重构并在许多方面进行了改进。

二、架构

您需要根据业务需求选择:

  • 集群架构可轻松突破Redis自身单线程瓶颈,满足大容量、高性能的业务需求。
  • 主从架构,提供高性能的缓存服务和数据高可靠。
  • 读写分离架构提供高可用、高性能、高灵活的读写分离服务,解决热点数据集中及高并发读取的业务需求,最大化地节约用户运维成本。

1、主从架构-双副本

采用主从(master-replica)模式搭建。主节点提供日常服务访问,备节点提供HA高可用,当主节点发生故障,系统会自动在30秒内切换至备节点,保证业务平稳运行。

1)可靠性

  • 服务可靠采用双机主从(master-replica)架构,主从节点位于不同物理机。主节点对外提供访问,用户可通过Redis命令行和通用客户端进行数据的增删改查操作。当主节点出现故障,HA系统会自动进行主从切换,保证业务平稳运行。
  • 数据可靠默认开启数据持久化功能,数据全部落盘。支持数据备份功能,用户可以针对备份集回滚实例或者克隆实例,有效地解决数据误操作等问题。

2)使用场景

  • Redis作为持久化数据存储使用的业务标准版提供持久化机制及备份恢复机制,极大地保证数据可靠性。

  • 单个Redis性能压力可控的业务由于Redis原生采用单线程机制,性能在10万QPS以下的业务建议使用。如果需要更高的性能要求,请选用集群版本。

  • Redis命令相对简单,排序、计算类命令较少的业务由于Redis的单线程机制,CPU会成为主要瓶颈。如排序、计算类较多的业务建议选用集群版配置。

2、主从架构-单副本

可以在没有数据可靠性要求的纯缓存场景充分发挥性能优势。

1)使用场景

①纯缓存类业务场景

单副本版本只有一个数据库节点,节点出现故障时,系统会重新拉起一个Redis进程(没有数据),当节点故障业务自动切换完成后,应用程序需要将数据重新预热,以免对后端数据库产生访问压力冲击。单副本架构不能提供数据可靠性,如果发生节点故障,您需要重新对业务进行预热,因此,在对数据可靠性要求较高的敏感性业务中,建议选用双副本架构。

②单个Redis性能压力可控

由于Redis原生采用单线程机制,CPU为单核能力,性能在8万QPS的业务建议使用。如果需要更高的性能要求,请选用集群版配置。

③Redis命令相对简单,排序、计算类命令较少

由于Redis的单线程机制,CPU为主要瓶颈。如排序、计算类较多的业务建议选用集群版配置。

3、集群版-双副本

可轻松突破Redis自身单线程瓶颈,满足大容量、高性能的业务需求。双副本集群版实例采用集群架构,每个分片服务器采用主从(master-replica)双副本模式。集群版支持代理和直连两种连接模式,您可以根据本章节的说明,选择适合业务需求的连接模式。

1)代理模式

集群架构的本地盘实例默认采用代理(proxy)模式,支持通过一个统一的连接地址(域名)访问Redis集群,客户端的请求通过代理服务器转发到各数据分片,代理服务器、数据分片和配置服务器均不提供单独的连接地址,降低了应用开发难度和代码复杂度。代理模式的服务架构图和组件说明如下。

Redis 生产架构选型对比,一文整治选择困难症

Redis 生产架构选型对比,一文整治选择困难症

2)直连模式

因所有请求都要通过代理服务器转发,代理模式在降低业务开发难度的同时也会小幅度影响Redis服务的响应速度。如果业务对响应速度的要求非常高,您可以使用直连模式,绕过代理服务器直接连接后端数据分片,从而降低网络开销和服务响应时间。直连模式的服务架构和说明如下。

Redis 生产架构选型对比,一文整治选择困难症

前提条件:使用Jedis、PhpRedis等支持Redis Cluster的客户端。

  • 使用不支持Redis Cluster的客户端,可能因客户端无法重定向请求到正确的分片而获取不到需要的数据。

  • Jedis对于Redis Cluster的支持是基于JedisCluster这个类,详细说明请参见Jedis文档。

  • 您可以在Redis官网的客户端列表里查找更多支持Redis Cluster的客户端。

使用自定义连接池的示例代码 import redis.clients.jedis.*;</p> <p>import java.util.HashSet;</p> <p>import java.util.Set;</p> <p>public class main {</p> <p>private static final int DEFAULT_TIMEOUT = 2000;</p> <p>private static final int DEFAULT_REDIRECTIONS = 5;</p> <p>private static final JedisPoolConfig DEFAULT_CONFIG = new JedisPoolConfig();</p> <pre><code>public static void main(String args[]){ JedisPoolConfig config = new JedisPoolConfig(); // 最大空闲连接数, 根据业务需要设置,不能超过实例规格规定的最大的连接数 config.setMaxIdle(200); // 最大连接数, 根据业务需要设置,不能超过实例规格规定的最大的连接数 config.setMaxTotal(300); config.setTestOnBorrow(false); config.setTestOnReturn(false); // 开通直连访问时申请到的直连地址 String host = "r-bp1xxxxxxxxxxxx.redis.rds.aliyuncs.com"; int port = 6379; // 实例的密码 String password = "xxxxx"; Set jedisClusterNode = new HashSet(); jedisClusterNode.add(new HostAndPort(host, port)); JedisCluster jc = new JedisCluster(jedisClusterNode, DEFAULT_TIMEOUT, DEFAULT_TIMEOUT, DEFAULT_REDIRECTIONS,password, "clientName", config); } }

4、集群版-单副本

Redis 生产架构选型对比,一文整治选择困难症

Redis 生产架构选型对比,一文整治选择困难症

5、读写分离版

针对读多写少的业务场景,提供高可用、高性能、灵活的读写分离服务,满足热点数据集中及高并发读取的业务需求,最大化地节约运维成本。读写分离版主要由主备节点、只读节点、Proxy(代理)节点和高可用系统组成。

Redis 生产架构选型对比,一文整治选择困难症

Redis 生产架构选型对比,一文整治选择困难症

1)特点

①高可用

  • 通过自研的高可用系统自动监控所有数据节点的健康状态,为整个实例的可用性保驾护航。主节点不可用时自动选择新的主节点并重新搭建复制拓扑。某个只读节点异常时,高可用系统能够自动探知并重新启动新节点完成数据同步,下线异常节点。

  • Proxy节点实时感知每个只读实例的服务状态。在某个只读实例异常期间,Proxy会自动降低该节点的服务权重,发现只读节点连续失败超过一定次数以后,会停止异常节点的服务权利,并具备继续监控后续重新启动节点服务的能力。

②高性能

读写分离版采取链式复制架构, 可以通过扩展只读实例个数使整体实例性能呈线性 增长,同时基于源码层面对Redis复制流程的定制优化,可以最大程度地提升线性复制的系统稳定性,充分利用每一个只读节点的物理资源。

2)使用场景

读取请求QPS(Queries Per Second)压力较大

标准版Redis无法支撑较大的QPS,如果业务类型是读多写少类型,需要采用多个只读节点的部署方式来突破Redis单线程的性能瓶颈。Redis集群版提供1个、3个、5个只读节点的配置,相比标准版可以将QPS提升近5倍。

对Redis协议兼容性要求较高的业务 读写分离版完全兼容Redis协议命令,可将自建Redis数据库迁移至读写分离版,同时支持从Redis标准版(双副本)一键平滑升级至读写分离版。

3)建议与使用须知

当一个只读节点发生故障时,请求会转发到其他节点;如果所有只读节点均不可用,请求会全部转发到主节点。只读节点异常可能导致主节点负载提高、响应时间变长,因此在读负载高的业务场景建议使用多个只读节点。

某些场景会触发只读节点的全量同步,例如在主节点触发高可用切换后。全量同步期间只读节点不提供服务并返回-LOADING Redis is loading the dataset in memory\r\n信息。

作者丨小热爱

Original: https://www.cnblogs.com/88223100/p/Comparison-of-Redis-production-architecture-selection.html
Author: 古道轻风
Title: Redis 生产架构选型对比,一文整治选择困难症

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/585402/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

  • Linux连接出现Permission denied (publickey,gssapi-with-mic,password

    新建的机器或者利旧的机器,当再次连接旧机器时出现以下报错: @@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@@…

    Linux 2023年6月13日
    077
  • 文件的压缩与打包

    文件的压缩与打包 常用文件拓展名 *.tar.gz tar程序打包的文件,并且经过gzip的压缩 *.tar.bz2 tar程序打包的文件,并且经过bzip2的压缩 tar 命令,…

    Linux 2023年6月11日
    090
  • Jenkins,8080端口无法修改问题

    今天安装了 Jenkins 。想把8080 端口修改为 6699 。 出现以下状况。 一:找到 jenkins.xml 文件。 vi /usr/lib/firewalld/serv…

    Linux 2023年6月13日
    092
  • CodeSmith无法获取MySQL表及列Description说明处理

    实体类生成模板下载: 链接:https://pan.baidu.com/s/1tLxW5m5ECwVV2feWSVtQIA提取码:qezw 反编译工具下载: 链接:https://…

    Linux 2023年6月13日
    0118
  • jenkins使用ssh remote插件执行shell后无法退出的问题处理

    现象:通过jenkins发布代码后,执行远程命令,一直卡在执行远程命令那里打转,无法退出 脚本 #!/bin/bash 根据参数,执行进程的启动 停止 重启等 #source /e…

    Linux 2023年5月28日
    098
  • Docker容器镜像打成tar包

    简述需求: 在现在容器上保存镜像进行打包,在另一台服务上使用 首先查看下现有要打tar包的容器 接下来用commit参数进行保存镜像, -a 提交人的姓名 -m “提交…

    Linux 2023年6月8日
    092
  • 设计模式-单例模式

    目的:为了保证一个类在程序中只有一个实例,并且能被全局访问 场景:全局线程池 要点: 通过 Test::Instance()获取类指针 class Test { public: s…

    Linux 2023年6月8日
    097
  • bat-Windows的文件夹备份

    REM program:&#x7528;&#x4E8E;HTS&#x7684;Windows&#x673A;&#x5668;&#x5…

    Linux 2023年6月7日
    0102
  • 最小容器内常用命令安装方法

    首先改成中科大的源 echo “deb http://mirrors.ustc.edu.cn/debian stable main contrib non-free\ndeb ht…

    Linux 2023年6月13日
    0109
  • Linux基础入门笔记

    Linux内核最初只是由芬兰人林纳斯·托瓦兹(Linus Torvalds)在赫尔辛基大学上学时出于个人爱好而编写的。 Linux是一套免费使用和自由传播的类Unix操作系统,是一…

    Linux 2023年6月14日
    073
  • vue axios的二次封装

    1、axios的二次封装 BiliBili作者原地址,多多支持 npm i axios //下载axios 首先创建两个文件夹在src目录下;api和config 先在 confi…

    Linux 2023年6月7日
    082
  • cobbler离线安装脚本

    cobbler离线安装脚本 配套离线安装cobbler教程 需要手动上传镜像包和离线安装包 #!/bin/bash #上传cobbler离线安装包和centos镜像包 解压离线安装…

    Linux 2023年6月7日
    0111
  • Docker-compose资源编排

    Docker-compose 1.简介 Docker-Compose项目是Docker官方的开源项目,负责实现对Docker容器集群的快速编排。 Docker-Compose将所管…

    Linux 2023年6月13日
    0113
  • yum源安装nginx

    nginx使用yum源安装 安装步骤 使用yum源安装依赖 yum install yum-utils 配置nginx.repo的yum文件 vim /etc/yum.repos….

    Linux 2023年6月8日
    0123
  • Linux 批量杀死进程(详细版本)

    使用场景 当程序中有使用到多进程且进程数较多的情况,如下图,且需要通过控制台杀死所有的 GSM_run.py 的进程时,利用 kill 命令一个一个的去结束进程是及其耗时且繁琐的,…

    Linux 2023年6月7日
    0152
  • 更快的排序——归并排序!基于分而治之的对数复杂度的排序Merge Sort

    Merge Sort Algorithm The merge sort algorithm is defined recursively: If the list is of si…

    Linux 2023年6月13日
    097
亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球