首页 > 数据库 >Redis 主从复制的原理详解

Redis 主从复制的原理详解

时间:2024-03-20 09:01:03浏览次数:27  
标签:主从复制 Redis 偏移量 命令 详解 全量 复制 psync 节点

文章目录:
1、复制过程

2、数据间的同步

3、全量复制

4、部分复制

5、心跳

6、异步复制

复制原理

1.复制过程

复制的过程步骤如下:

1、从节点执行 slaveof 命令

2、从节点只是保存了 slaveof 命令中主节点的信息,并没有立即发起复制

3、从节点内部的定时任务发现有主节点的信息,开始使用 socket 连接主节点

4、连接建立成功后,发送 ping 命令,希望得到 pong 命令响应,否则会进行重连

5、如果主节点设置了权限,那么就需要进行权限验证;如果验证失败,复制终止。

6、权限验证通过后,进行数据同步,这是耗时最长的操作,主节点将把所有的数据全部发送给从节点。

7、当主节点把当前的数据同步给从节点后,便完成了复制的建立流程。接下来,主节点就会持续的把写命令发送给从节点,保证主从数据一致性

2.数据间的同步

上面说的复制过程,其中有一个步骤是“同步数据集”,这个就是现在讲的‘数据间的同步’。

redis 同步有 2 个命令:

sync 和 psync,前者是 redis 2.8 之前的同步命令,后者是 redis 2.8 为了优化 sync 新设计的命令。我们会重点关注 2.8 的 psync 命令。

psync 命令需要 3 个组件支持:

1、主从节点各自复制偏移量

2、主节点复制积压缓冲区

3、主节点运行 ID

主从节点各自复制偏移量:

1、参与复制的主从节点都会维护自身的复制偏移量。

2、主节点在处理完写入命令后,会把命令的字节长度做累加记录,统计信息在 info replication 中的 masterreploffset 指标中。

3、从节点每秒钟上报自身的的复制偏移量给主节点,因此主节点也会保存从节点的复制偏移量。

4、从节点在接收到主节点发送的命令后,也会累加自身的偏移量,统计信息在 info replication 中。

5、通过对比主从节点的复制偏移量,可以判断主从节点数据是否一致。

主节点复制积压缓冲区:

1、复制积压缓冲区是一个保存在主节点的一个固定长度的先进先出的队列。默认大小 1MB。

2、这个队列在 slave 连接是创建。这时主节点响应写命令时,不但会把命令发送给从节点,也会写入复制缓冲区。

3、他的作用就是用于部分复制和复制命令丢失的数据补救。通过 info replication 可以看到相关信息。

主节点运行 ID:

1、每个 redis 启动的时候,都会生成一个 40 位的运行 ID。

2、运行 ID 的主要作用是用来识别 Redis 节点。如果使用 ip+port 的方式,那么如果主节点重启修改了 RDB/AOF 数据,从节点再基于偏移量进行复制将是不安全的。所以,当运行 id 变化后,从节点将进行全量复制。也就是说,redis 重启后,默认从节点会进行全量复制。

如果在重启时不改变运行 ID 呢?

1、可以通过 debug reload 命令重新加载 RDB 并保持运行 ID 不变。从而有效的避免不必要的全量复制。

2、他的缺点则是:debug reload 命令会阻塞当前 Redis 节点主线程,因此对于大数据量的主节点或者无法容忍阻塞的节点,需要谨慎使用。一般通过故障转移机制可以解决这个问题。

psync 命令的使用方式:

命令格式为 psync{runId}{offset}

runId:从节点所复制主节点的运行 id

offset:当前从节点已复制的数据偏移量

psync 执行流程:

 

 

 

流程说明:从节点发送 psync 命令给主节点,runId 就是目标主节点的 ID,如果没有默认为 -1,offset 是从节点保存的复制偏移量,如果是第一次复制则为 -1.主节点会根据 runid 和 offset 决定返回结果:1、如果回复 +FULLRESYNC {runId} {offset} ,那么从节点将触发全量复制流程。2、如果回复 +CONTINUE,从节点将触发部分复制。3、如果回复 +ERR,说明主节点不支持 2.8 的 psync 命令,将使用 sync 执行全量复制。到这里,数据之间的同步就讲的差不多了,篇幅还是比较长的。主要是针对 psync 命令相关之间的介绍。

3.全量复制

全量复制是 Redis 最早支持的复制方式,也是主从第一次建立复制时必须经历的的阶段。触发全量复制的命令是 sync 和 psync。之前说过,这两个命令的分水岭版本是 2.8,redis 2.8 之前使用 sync 只能执行全量不同,2.8 之后同时支持全量同步和部分同步。

流程如下:

 

 

 

介绍一下上图步骤:

1、发送 psync 命令(spync ?-1)

2、主节点根据命令返回 FULLRESYNC

3、从节点记录主节点 ID 和 offset

4、主节点 bgsave 并保存 RDB 到本地

5、主节点发送 RBD 文件到从节点

6、从节点收到 RDB 文件并加载到内存中

7、主节点在从节点接受数据的期间,将新数据保存到“复制客户端缓冲区”,当从节点加载 RDB 完毕,再发送过去。(如果从节点花费时间过长,将导致缓冲区溢出,最后全量同步失败)

8、从节点清空数据后加载 RDB 文件,如果 RDB 文件很大,这一步操作仍然耗时,如果此时客户端访问,将导致数据不一致,可以使用配置slave-server-stale-data 关闭.

9、从节点成功加载完 RBD 后,如果开启了 AOF,会立刻做 bgrewriteaof以上加粗的部分是整个全量同步耗时的地方。

注意:

1、如过 RDB 文件大于 6GB,并且是千兆网卡,Redis 的默认超时机制(60 秒),会导致全量复制失败。可以通过调大 repl-timeout 参数来解决此问题

2、Redis 虽然支持无盘复制,即直接通过网络发送给从节点,但功能不是很完善,生产环境慎用。

4.部分复制

当从节点正在复制主节点时,如果出现网络闪断和其他异常,从节点会让主节点补发丢失的命令数据,主节点只需要将复制缓冲区的数据发送到从节点就能够保证数据的一致性,相比较全量复制,成本小很多。

步骤如下:

 

 

 

1、当从节点出现网络中断,超过了 repl-timeout 时间,主节点就会中断复制连接。

2、主节点会将请求的数据写入到“复制积压缓冲区”,默认 1MB。

3、当从节点恢复,重新连接上主节点,从节点会将 offset 和主节点 id 发送到主节点

4、主节点校验后,如果偏移量的数后的数据在缓冲区中,就发送 cuntinue 响应 —— 表示可以进行部分复制

5、主节点将缓冲区的数据发送到从节点,保证主从复制进行正常状态。


5.心跳

主从节点在建立复制后,他们之间维护着长连接并彼此发送心跳命令。

心跳的关键机制如下:

1、中从都有心跳检测机制,各自模拟成对方的客户端进行通信,通过 client list 命令查看复制相关客户端信息,主节点的连接状态为 flags = M,从节点的连接状态是 flags = S。

2、主节点默认每隔 10 秒对从节点发送 ping 命令,可修改配置 repl-ping-slave-period 控制发送频率。

3、从节点在主线程每隔一秒发送 replconf ack{offset} 命令,给主节点上报自身当前的复制偏移量。

4、主节点收到 replconf 信息后,判断从节点超时时间,如果超过 repl-timeout 60 秒,则判断节点下线。

 

 

图片注意:为了降低主从延迟,一般把 redis 主从节点部署在相同的机房/同城机房,避免网络延迟带来的网络分区造成的心跳中断等情况。

6.异步复制

主节点不但负责数据读写,还负责把写命令同步给从节点,写命令的发送过程是异步完成,也就是说主节点处理完写命令后立即返回客户度,并不等待从节点复制完成。

异步复制的步骤很简单,如下:

1、主节点接受处理命令

2、主节点处理完后返回响应结果

3、对于修改命令,异步发送给从节点,从节点在主线程中执行复制的命令。图片

 

 

总结

本文主要分析了 Redis 的复制原理,包括复制过程,数据之间的同步,全量复制的流程,部分复制的流程,心跳设计,异步复制流程。

其中,可以看出,RDB 数据之间的同步非常耗时。所以,Redis 在 2.8 版本退出了类似增量复制的 psync 命令,当 Redis 主从直接发生了网络中断,不会进行全量复制,而是将数据放到缓冲区(默认 1MB)里,在通过主从之间各自维护复制 offset 来判断缓存区的数据是否溢出,如果没有溢出,只需要发送缓冲区数据即可,成本很小,反之,则要进行全量复制,因此,控制缓冲区大小非常的重要。

引用

《Redis 开发与运维》

好了,关于redis 主从复制的原理就介绍到这里 ,篇幅有限,难免疏漏。

标签:主从复制,Redis,偏移量,命令,详解,全量,复制,psync,节点
From: https://www.cnblogs.com/ataoxz/p/18084394

相关文章

  • 详解Redis的持久化RDB和AOF
    Redis的持久化是将内存中的数据同步到硬盘的过程具体来说,Redis支持两种主要的持久化方式:RDB和AOF。RDB(RedisDatabase)简介默认持久化方式RDB会将内存中的数据快照保存到磁盘上的一个二进制文件中。这个文件包含了Redis在某个时间点上的所有数据,包括键值对及其过期时间等......
  • Redis 梳理
    基础知识NoSQLNoSQL(NotOnlySQL),泛指非关系型数据库。为了解决大规模数据几何多重数据种类带来的挑战,尤其是大数据应用,包括超大规模数据的存储。这些类型的数据存储不需要固定的模式,无需多余操作就可以横向发展。易扩展NoSQL数据库种类繁多,但是一个共同的特点都是去掉关......
  • dijkstra算法详解
    今天给大家讲解\(dijkstra\)图论最短路算法在讲解\(dijkstra\)算法之前,先来给大家讲解一下图论中的松弛操作。松弛,即\(relaxtion\),是一种编程学术语。举例说明,例如我们可以从某个机场坐飞机达到若干个机场,然后从这些机场出发,我们又需做火车前往若干个城镇。现在假设我们手里......
  • 瑞_Redis_短信登录
    文章目录项目介绍1短信登录1.1项目准备1.1.1导入SQL1.1.2导入后端项目1.1.3导入前端项目1.2基于Session实现登录流程1.2.1功能流程介绍1.2.1.1发送短信验证码1.2.1.2短信验证码登录、注册1.2.1.3校验登录状态1.2.2实现发送短信验证码功能1.2.2.1页面流程1.......
  • Go: 泛型及其应用详解
    在软件开发的世界里,泛型是一个强大的工具,它允许我们编写灵活且可重用的代码。对于我们这些追求成为软件架构师和系统架构师的开发者来说,深入理解并有效应用泛型是提升我们代码设计能力的关键一步。Go语言自1.18版本起正式引入了泛型功能,这一变化无疑给Go语言带来了更广阔的......
  • seq2seq项目详解
    一、seq2seq和encoder-decoder关系seq2seq是从解决问题的目的角度来说的,利用的框架是encoder-decoder 二、项目例子比如我们有两个文件letters_source.txt和letters_target.txt,他们行数一致,也就是我们的训练集合,他们每一行互应(这两个文件同一行彼此长度可以不一致:比如中......
  • Garnet: 力压Redis的C#高性能分布式存储数据库
    今天看到微软研究院开源了一个新的C#项目,叫Garnet,它实现了Redis协议,可以直接将Redis替换为Garnet,客户端不需要任何修改。根据其官网的信息,简单的介绍一下它。开源仓库地址:https://github.com/microsoft/garnet文档地址:https://microsoft.github.io/garnet/Garnet是微软研究院基......
  • js数组方法详解
    数组是js中最常用到的数据集合,其内置的方法有很多,熟练掌握这些方法,可以有效的提高我们的工作效率,同时对我们的代码质量也是有很大影响。 创建数组一.字面量方式constarray=[1,2,3,4,5]; 二.使用Array构造方法1.无参构造-创建一个长度为0的空数组constarray......
  • 鸿鹄电子招投标系统源码实现与立项流程:基于Spring Boot、Mybatis、Redis和Layui的企业
    随着企业的快速发展,招采管理逐渐成为企业运营中的重要环节。为了满足公司对内部招采管理提升的要求,建立一个公平、公开、公正的采购环境至关重要。在这个背景下,我们开发了一款电子招标采购软件,以最大限度地控制采购成本,提高招投标工作的公开性和透明性,并确保符合国家电子招投标......
  • redis查询端口与密码以及连通性测试方法
    目录一.端口查找二.密码查找三.连通性测试前言:redis的配置信息都在redis.conf文件里面,可以通过find/-nameredis.conf 进行查找文件存放位置,然后进入redis.conf文件进行查看一.端口查找1.使用命令 ps-ef|grepredis进行查找,示例6450/6451均为redis......