首页 > 数据库 >Redis:五、主从复制

Redis:五、主从复制

时间:2023-02-24 21:37:10浏览次数:39  
标签:主从复制 slave Redis 复制 master offset 数据

@

目录


一、主从复制的概念

为什么需要主从复制,因为单机Redis会存在以下问题: ①机器故障,那么原本机器中的业务数据会损害造成不可挽回的损失;②容量瓶颈,单继Redis的内存有限,硬件条件拉跨无法存储巨额数据;为了避免这些问题保证数据的安全性和服务器的高可用性出现了主从复制。
主从复制是指,主机数据更新后根据配置和策略,自动同步到备机的master/slaver 机制,Master以写为主,Slave 以读为主。
在这里插入图片描述

二、主从复制基础用法

简介:
在这里插入图片描述

2.1 工作流程(1)建立连接

在这里插入图片描述

  • 首先由 slave(从服务器)向 master(主服务器) 发送 slaveof ip port 指令申明称为 master的从机。紧接着slave 会保存master的地址(masterhost)和端口(masterport)以保存master的信息,然后根据保存的信息建立起与主机间的socket连接。为了保证连接的不中断同时slave会不断发送ping命令来测试连接是否联通。如果主机设置了密码,此时还需要从机进行身份验证auth password来向主机核验自己的身份,如果验证授权通过从机才可以发送指令replconf listening-port <port-number>来向master发送自己的端口信息。最终主从连接成功。
  • 最终的状态是master保存了slave的端口信息;slave保存了master的地址和端口;总体二者之间建立了socket连接。

建立连接的方法:

  • 启动方式1、客户端发送命令:
    slaveof <masterip> <masterport>
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

  • 启动方式2、启动服务器参数:
    redis-server xxxxx.conf --slaveof host port
    在这里插入图片描述

  • 启动方式3、服务器配置:
    slaveof <masterip> <masterport>
    在这里插入图片描述

  • 授权访问需要从机提供主机设置好的密码:
    在这里插入图片描述

2.2 工作流程(2)数据同步

在这里插入图片描述

Redis数据同步可以分为全量复制和增量复制(部分复制)。
全量复制: 由slave发起 psyhc2指令给master,master会执行 bgsave (rdb方式的手动持久化)来生成当前的rdb数据文件。但是在rdb持久化过程中新增的数据也需要记录,因此在第一个slave连接的时候master就创建了一个复制缓冲区来记录这一过程新增的指令。等到master持久化完成就会通过socket将rdb数据文件发送给slave,slave接收到RDB然后清空数据执行RDB文件恢复数据。

增量复制: 恢复完成后slave发送命令告知master已经恢复完成,master在这一阶段会发送复制缓冲区中的指令给slave,slave接收到这些指令执行 bgrewriteaof 来恢复数据(这是以aof的方式,因为复制缓冲区中存储的是指令而不是rdb文件类型的数据)。

需要注意的问题:

  • master方面:
  1. 如果master数据量巨大,数据同步阶段应当避开流量高峰阶段,避免造成master阻塞,影响业务的正常进行;
  2. 复制缓冲区的大小必须设置合理,否则会导致数据溢出。比如全量复制时间太久,进行部分复制时发现数据已经存在丢失的情况,必须进行二次全量复制,可能导致slave陷入死循环。
    可以通过修改 repl-backlog-size 来修改复制缓冲区大小,默认是1MB
  3. master单机内存占用主内存的比例不应太大,建议使用 50%~70%的内存,留下30%-50%的内存用于执行bgsave命令和创建复制缓冲区。
  • slave方面:
  1. 为避免slave进行全量复制、部分复制时服务器响应阻塞或者数据不同步,建议关闭对外服务。
    slave-serve-stale-data yes|no
  2. 数据同步阶段,master会向slave发送ping命令来测试连接。
  3. 多个salve向master请求数据同步,master发送的RDB文件过多,会对带宽造成巨大冲击,造成master的带宽不足。因此数据同步需要错峰进行。
  4. slave过多时建议调整拓扑结构,由一主多从调整为树状结构,中间的结点既是master,也是上一层的slave。但是需要注意树状结构的深度,如果深度过深,深度高的master和底层的slave之间数据同步延迟较大,数据一致性不高。

总结: 全量复制获取的是获取从发指令那一刻开始之前的所有数据;增量复制是获取rdb过程中的所有数据;
最终的状态为:slave持有master的全部数据,包含RDB过程中接收的数据;master持有slave当前数据同步的位置。

2.3 工作流程(3)命令传播

命令传播阶段就是对全量复制和增量复制的不断重复进行保证数据的实时一致性。
在这里插入图片描述

  • 服务器的运行 id
    在这里插入图片描述
  • 复制缓冲区
    在这里插入图片描述
    在这里插入图片描述
    工作原理: 当一条命令进来后master会将该命令拆解为单个字节值,复制缓冲区包括偏移量和字节值两部分,被拆解的字节值会分别存储到复制缓冲区中同时标记上偏移量。由于不同的slave之间存在数据传播的差异,因此master和slave都需要记录这个偏移量。

在这里插入图片描述

  • 复制偏移量
    在这里插入图片描述

  • 数据同步与命令传播阶段工作流程:
    在这里插入图片描述

    • 全量复制详解:
      首先slave发送 psync2 <runid> <offset> 指令给master(此时slave还不知道master的服务器运行id,因此runid初始为?,offset初始为-1),接着master进行rdb持久化并协同 +FULLRESYNC runid offset 一起发送给slave。在这期间master可能会接受客户端命令,offset进行移动变化。slave接收到了 +FULLRESYNC 会保存master的runid和offset参数,同时清空全部数据恢复RDB 数据。
    • 增量复制详解:
      当slave再次发送 psync2 runid offset 指令给master时,master会核对 runid和offset参数是否匹配。如果runid不满足或者offset溢出就执行全量复制;如果runid满足但是offset不相同(比方说slave突然掉线,而master端仍有命令进入,会造成master端的offset不断增长而slave端不变),master则会发送 +CONTINUE offset 和复制缓冲区中相差的那段指令数据给slave。 slave接收到 +CONTINUE 指令后保存新的 offset 然后执行 bgrewriteaof 恢复数据。
  • 心跳机制:
    心跳机制是为了保证master和slave之间的连接能够不中断,方便数据稳定传输的。(注意它并没有包含在数据同步阶段中,而是在命令传播阶段)在这里插入图片描述
    在这里插入图片描述

slave 会发送 replconf ack offset 命令给master 来检测offset是否合理,接下来的操作和数据同步阶段相同。
为了保证命令传播阶段数据的高一致性,slave会不断发送 replconf ack offset 命令给master,同时master也会不断发送 ping 命令给slave来保证连接。

三、主从复制实例

实例:

复制三份配置文件,分别占用6379、6380、6381三个端口。
命令:
info replication :查询当前机器的身份状态
slaveof 主机ip 主机端口port :成为某台机器的从机

  • 一主二仆:
    ·info replication:查看当前机器的角色·
    在这里插入图片描述
    * 如果主机宕机后,从机的身份不会改变,依旧原地待命。
    * 如果主机回来后,主机依旧为主机,从机依旧为从机。
    * 如果从机宕机后回来,从机的身份就变为了master,每次与master断开后,都需要重新连接,除非配置进redis.conf 文件
    * 只有主机可以进行写,从机只能进行读
    在这里插入图片描述

  • 薪火相传(slave与master是相对的概念)在这里插入图片描述

  • 反客为主
    slaveof no one :使当前数据库停止与其它数据库的同步,转换为主数据库

  • 复制原理:
    在这里插入图片描述

  • 哨兵模式:
    能够后台监控主机是否故障,如果故障了根据投票数自动将从库转化为主库。简单地说反客为主的自动版。

    1. 如何配置:首先创建一个sentinel.conf 文件,在该文件里面进行主机宕机后的配置sentinel monitor 被监控的主机数据库名字(自己起) 127.0.0.1 6379 1 。最后的一个1表示主机宕机后从机谁的票数多谁就成为主机。
    2. 哨兵启动: redis-sentinel xxx.sentinel.conf
    3. 此时如果主机宕机回来后,就自动变为了从机。
    4. 一组sentinel能够同时监控多个Master

四、主从复制常见问题

  1. 频繁的全量复制(1)
    在这里插入图片描述
  2. 频繁的全量复制(2)
    在这里插入图片描述
  3. 频繁的网络中断(1)
    在这里插入图片描述
  4. 频繁的网络中断(2)
    在这里插入图片描述
  5. 数据不一致
    在这里插入图片描述

五、主从复制的作用

  • 读写分离: master写,slave读,提高服务器的读写负载能力;
  • 负载均衡: 基于主从结构,配合读写分离,由slave分担master负载,并根据需求的变化,改变slave的数量,通过多个从节点分担数据读取负载,大大提高Redis服务器并发量与吞吐量;
  • 故障恢复:当master出现问题时,由slave来提供服务实现快速的故障恢复;
  • 数据冗余:实现数据热备份,是持久化之外的一种数据冗余方式;
  • 高可用基石:基于主从复制,构建哨兵模式与集群,实现Redis的高可用方案;

标签:主从复制,slave,Redis,复制,master,offset,数据
From: https://www.cnblogs.com/istitches/p/17153152.html

相关文章

  • Redis:六、哨兵模式
    @目录一、哨兵模式简介二、哨兵的搭建三、哨兵工作原理一、哨兵模式简介哨兵(Sentinel)是一个分布式系统,用于对主从结构中的每台服务器进行监控,当出现故障时通过投票机......
  • Redis:七、集群
    @目录一、集群是什么?二、集群的存储结构设计三、集群的搭建四、主从下线和主从切换总结一、集群是什么?集群:集群就是使用网络将若干台计算机联通起来,并提供统一的管理方......
  • Redis:三、持久化操作
    Redis系列文章目录@目录Redis系列文章目录一、Redis配置文件解析INCLUDES包含GENERAL通用SECURITYLIMITS限制二、Redis持久化---RDB方式2.1RDB(RedisDataBase):2.2......
  • Redis:二、jedis线程池
    中间件---Redis@目录中间件---Redis前言一、什么是jedis二、使用步骤1.Jedis读写redis数据(案例)2.编码2.1设定业务方法:2.2设定线程类,模拟用户调用:2.3设计redis......
  • Redis设计与实现—对象
    前言 前面介绍了Redis底层的数据类型,但是Redis常用的五种数据结构是怎样的呢?@目录前言一、对象类型介绍1.1概念1.2对象类型和编码1)type:类型2)encoding:编码和底层实现......
  • Redis设计与实现—复制原理
    前言Redis中的复制命令原理@目录前言一、旧版复制原理1.1同步1.2命令传播1.3旧版复制的缺陷二、新版复制原理2.1部分重同步2.1.1复制偏移量2.1.2复制积压缓冲区2......
  • Redis设计与实现—简单动态字符串、链表、字典
    前言《Redis设计与实现》数据结构部分有关字符串类型介绍。@目录前言一、数据结构——简单动态字符串1.1SDS定义1.2SDS与C字符串的区别1.2.1常数复杂度获取字符串长度......
  • Redis设计与实现—事件机制
    前言Redis内部消息通信机制学习和了解@目录前言一、Redis中事件的分类文件事件文件事件处理器I/O多路复用程序的实现文件事件处理器时间事件时间事件怎么处理关键的时......
  • Redis设计与实现—数据库与过期键策略
    前言深入了解一下Redis内存机制如何存储数据,以及对于过期数据采取何种策略来清理。@目录前言一、Redis服务器中的数据库二、数据库键空间2.1数据存储——键空间dict2.......
  • Redis设计与实现—跳跃表、压缩列表
    前言Redis设计与实现读书笔记,基础数据结构部分——跳跃表与压缩列表@目录前言一、跳跃表1.1跳跃表概念1.2Redis中跳跃表的实现1.3跳跃表节点(zskipListNode)1.4手动......