首页 > 数据库 >Redis（五）主从复制、集群

Redis（五）主从复制、集群

时间：2022-09-29 21:00:07浏览次数：50  
标签：主从复制 6379 Redis redis cluster 集群 主机 节点

第一章 Redis 主从复制

1.1 主从复制是什么

主机数据更新后根据配置和策略， 自动同步到备机的master/slaver机制，Master以写为主，Slave以读为主

1.2 主从复制能干嘛

  • 读写分离，性能扩展
  • 容灾快速恢复

img

1.3 怎么玩：主从复制

拷贝多个redis.conf（redis配置文件）文件include(写绝对路径)

开启daemonize yes

Pid文件名字pidfile

指定端口port

Log文件名字

dump.rdb名字dbfilename

Appendonly 关掉或者换名字

新建redis6379.conf

填写以下内容

include /myredis/redis.conf
pidfile /var/run/redis_6379.pid
port 6379
dbfilename dump6379.rdb

img

新建redis6380.conf

填写以下内容

img

新建redis6381.conf

填写以下内容

img

slave-priority 10

设置从机的优先级，值越小，优先级越高，用于选举主机时使用。默认100

启动三台redis服务器

img

查看系统进程，看看三台服务器是否启动

img

查看三台主机运行情况

info replication #查看运行情况

打印主从复制的相关信息

img

配从(库)不配主(库)

slaveof  <ip><port>

成为某个实例的从服务器

1、在6380和6381上执行: slaveof 127.0.0.1 6379

img

2、在主机上写，在从机上可以读取数据

在从机上写数据报错

img

3、主机挂掉，重启就行，一切如初

4、从机重启需重设：slaveof 127.0.0.1 6379

可以将配置增加到文件中。永久生效。

img

1.4 常用3招

一主二仆

切入点问题？slave1、slave2是从头开始复制还是从切入点开始复制?比如从k4进来，那之前的k1,k2,k3是否也可以复制？

从头复制

从机是否可以写？set可否？

不可以

主机shutdown后情况如何？从机是上位还是原地待命？

原地待命

主机又回来了后，主机新增记录，从机还能否顺利复制？

可以

其中一台从机down后情况如何？依照原有它能跟上大部队吗？

需要重新配置主机，能跟上

img

薪火相传

上一个Slave可以是下一个slave的Master，Slave同样可以接收其他 slaves的连接和同步请求，那么该slave作为了链条中下一个的master, 可以有效减轻master的写压力,去中心化降低风险。

用

slaveof  <ip><port>

中途变更转向:会清除之前的数据，重新建立拷贝最新的

  • 风险是一旦某个slave宕机，后面的slave都没法备份
  • 主机挂了，从机还是从机，无法写数据了

img

img

反客为主

当一个master宕机后，后面的slave可以立刻升为master，其后面的slave不用做任何修改。

用

slaveof  no one

将从机变为主机。

img

缺点：手动完成，想要自动完成需要哨兵模式

1.5 复制原理

  1. Slave启动成功连接到master后会发送一个sync命令
  2. Master接到命令启动后台的存盘进程，同时收集所有接收到的用于修改数据集命令， 在后台进程执行完毕之后，master将传送整个数据文件（rdb）到slave，Slave拿到rdb进行读取
  3. 每次Master进行写操作之后，和slave进行数据同步

全量复制：而slave服务在接收到数据库文件数据后，将其存盘并加载到内存中。

增量复制：Master继续将新的所有收集到的修改命令依次传给slave,完成同步

但是只要是重新连接master,一次完全同步（全量复制)将被自动执行

img

1.6 哨兵模式(sentinel)

哨兵模式是什么？

反客为主的自动版，能够后台监控主机是否故障，如果故障了根据投票数自动将从库转换为主库

img

哨兵模式使用步骤

调整为一主二仆模式

6379带着6380、6381

img

自定义的/myredis目录下新建sentinel.conf文件，名字绝不能错

配置哨兵,填写内容

sentinel monitor mymaster 127.0.0.1 6379 1

其中mymaster为监控对象起的服务器名称， 1 为至少有多少个哨兵同意迁移的数量（这里为了测试，设置为1）。

启动哨兵

/usr/local/bin

redis做压测可以用自带的redis-benchmark工具

执行

redis-sentinel  /myredis/sentinel.conf

img

哨兵默认26379端口

当主机挂掉，从机选举中产生新的主机

(大概10秒左右可以看到哨兵窗口日志，切换了新的主机)

哪个从机会被选举为主机呢？根据优先级别：slave-priority

原主机重启后会变为从机。

img

复制延时

由于所有的写操作都是先在Master上操作，然后同步更新到Slave上，所以从Master同步到Slave机器有一定的延迟，当系统很繁忙的时候，延迟问题会更加严重，Slave机器数量的增加也会使这个问题更加严重。

故障恢复

img

优先级在redis.conf中默认：replica-priority 100，值越小优先级越高

偏移量是指获得原主机数据最全的

每个redis实例启动后都会随机生成一个40位的runid

主从复制

private static JedisSentinelPool jedisSentinelPool=null;
public static  Jedis getJedisFromSentinel(){
    if(jedisSentinelPool==null){
        Set<String> sentinelSet=new HashSet<>();
        sentinelSet.add("192.168.11.103:26379");
        JedisPoolConfig jedisPoolConfig =new JedisPoolConfig();
        jedisPoolConfig.setMaxTotal(10); //最大可用连接数
        jedisPoolConfig.setMaxIdle(5); //最大闲置连接数
        jedisPoolConfig.setMinIdle(5); //最小闲置连接数
        jedisPoolConfig.setBlockWhenExhausted(true); //连接耗尽是否等待
        jedisPoolConfig.setMaxWaitMillis(2000); //等待时间
        jedisPoolConfig.setTestOnBorrow(true); //取连接的时候进行一下测试 ping pong
        jedisSentinelPool=new JedisSentinelPool("mymaster",sentinelSet,jedisPoolConfig);
        return jedisSentinelPool.getResource();
    }else{
        return jedisSentinelPool.getResource();
    }
}

第二章 Redis集群

2.1 问题背景

  • 容量不够，redis如何进行扩容？
  • 并发写操作， redis如何分摊？

另外，主从模式，薪火相传模式，主机宕机，导致ip地址发生变化，应用程序中配置需要修改对应的主机地址、端口等信息。

之前通过代理主机来解决（缺点：服务器数量多），但是redis3.0中提供了解决方案。就是无中心化集群配置（任何一台服务器都可以作为集群的入口，责任链模式）。

2.2 什么是Redis集群？

Redis 集群实现了对Redis的水平扩容，即启动N个redis节点，将整个数据库分布存储在这N个节点中，每个节点存储总数据的1/N（均分）。

Redis 集群通过分区（partition）来提供一定程度的可用性（availability）： 即使集群中有一部分节点失效或者无法进行通讯， 集群也可以继续处理命令请求。

2.3 删除持久化数据

将rdb,aof文件都删除掉。

2.4 制作6个实例

6379,6380,6381,6389,6390,6391

3主3从

配置基本信息

开启daemonize yes

Pid文件名字

指定端口

Log文件名字

Dump.rdb名字

Appendonly 关掉或者换名字

redis cluster配置修改

cluster-enabled yes

打开集群模式

cluster-config-file nodes-6379.conf

设定节点配置文件名

cluster-node-timeout 15000

设定节点失联时间，超过该时间（毫秒），集群自动进行主从切换。

include /home/bigdata/redis.conf
port 6379
pidfile "/var/run/redis_6379.pid"
dbfilename "dump6379.rdb"
dir "/home/bigdata/redis_cluster"
logfile "/home/bigdata/redis_cluster/redis_err_6379.log"
cluster-enabled yes
cluster-config-file nodes-6379.conf
cluster-node-timeout 15000

修改好redis6379.conf文件，拷贝多个redis.conf文件

img

使用查找替换修改另外5个文件

shell中

:%s/6379/6380

启动6个redis服务

img

2.5 将六个节点合成一个集群

组合之前，请确保所有redis实例启动后，nodes-xxxx.conf文件都生成正常。

img

合体：

cd /opt/redis-6.2.1/src

redis-cli --cluster create --cluster-replicas 1 192.168.11.101:6379 192.168.11.101:6380 192.168.11.101:6381 192.168.11.101:6389 192.168.11.101:6390 192.168.11.101:6391

此处不要用127.0.0.1， 请用真实IP地址

--replicas 1 采用最简单的方式配置集群，一台主机，一台从机，正好三组。

img

img

普通方式登录

可能直接进入读主机，存储数据时，会出现MOVED重定向操作。所以，应该以集群方式登录。

img

2.6 -c 采用集群策略连接，设置数据会自动切换到相应的写主机

img

2.7 通过 cluster nodes 命令查看集群信息

img

2.8 redis cluster 如何分配这六个节点?

一个集群至少要有三个主节点。

选项 --cluster-replicas 1 表示我们希望为集群中的每个主节点创建一个从节点。

分配原则尽量保证每个主数据库运行在不同的IP地址，每个从库和主库不在一个IP地址上。（交叉部署，保证高可用）

2.9 什么是slots？

[OK] All nodes agree about slots configuration.

>>> Check for open slots...

>>> Check slots coverage...

[OK] All 16384 slots covered.

一个 Redis 集群包含 16384 个插槽（hash slot）， 数据库中的每个键都属于这 16384 个插槽的其中一个，

集群使用公式 CRC16(key) % 16384 来计算键 key 属于哪个槽， 其中 CRC16(key) 语句用于计算键 key 的 CRC16 校验和 。

集群中的每个节点负责处理一部分插槽。 举个例子， 如果一个集群可以有主节点， 其中：

  • 节点 A 负责处理 0 号至 5460 号插槽。
  • 节点 B 负责处理 5461 号至 10922 号插槽。
  • 节点 C 负责处理 10923 号至 16383 号插槽。

插槽起到了负载均衡的作用，根据插槽的值来决定由哪个主机来存储key

2.10 在集群中录入值

在redis-cli每次录入、查询键值，redis都会计算出该key应该送往的插槽，如果不是该客户端对应服务器的插槽，redis会报错，并告知应前往的redis实例地址和端口。

redis-cli客户端提供了 –c 参数实现自动重定向。

如 redis-cli -c –p 6379 登入后，再录入、查询键值对可以自动重定向。

不在一个slot下的键值，是不能使用mget,mset等多键操作。

img

可以通过{}来定义组的概念，从而使key中{}内相同内容的键值对放到一个slot中去。

计算cust所在的插槽值

img

2.11 查询集群中的值

CLUSTER GETKEYSINSLOT <slot><count>

返回 count 个 slot 槽中的键。

img

注意插槽的范围

2.12 故障恢复

如果主节点下线？从节点能否自动升为主节点？注意：15秒超时

img

主节点恢复后，主从关系会如何？主节点回来变成从机。

img

如果所有某一段插槽的主从节点都宕掉，redis服务是否还能继续?

如果某一段插槽的主从都挂掉，而cluster-require-full-coverage 为yes ，那么 ，整个集群都挂掉

如果某一段插槽的主从都挂掉，而cluster-require-full-coverage 为no ，那么，该插槽数据全都不能使用，也无法存储。

redis.conf中的参数 cluster-require-full-coverage

2.13 集群的Jedis开发

即使连接的不是主机，集群会自动切换主机存储。主机写，从机读。

无中心化主从集群。无论从哪台主机写的数据，其他主机上都能读到数据。

public class JedisClusterTest {
  public static void main(String[] args) { 
     Set<HostAndPort>set =new HashSet<HostAndPort>();
     set.add(new HostAndPort("192.168.31.211",6379));
     JedisCluster jedisCluster=new JedisCluster(set);
     jedisCluster.set("k1", "v1");
     System.out.println(jedisCluster.get("k1"));
  }
}

2.14 Redis集群提供了以下好处

  • 实现扩容
  • 分摊压力
  • 无中心配置相对简单

2.15 Redis集群的不足

  • 多键操作是不被支持的
  • 多键的Redis事务是不被支持的。lua脚本不被支持
  • 由于集群方案出现较晚，很多公司已经采用了其他的集群方案，而代理或者客户端分片的方案想要迁移至redis cluster，需要整体迁移而不是逐步过渡，复杂度较大。

标签：主从复制,6379,Redis,redis,cluster,集群,主机,节点
From： https://www.cnblogs.com/wkfvawl/p/16743057.html

相关文章

  • Redis：HGETALL的排序问题
    HGETALL介绍Returnsallfieldsandvaluesofthehashstoredatkey.Inthereturnedvalue,everyfieldnameisfollowedbyitsvalue,sothelengthofthere......
  • VMware虚拟机中Linux系统下面的redis安装（详解，含采坑经验！！！）
    部分参考了这篇博客，里面讲的很详细：https://www.cnblogs.com/flower-dance/p/14731073.html而我在安装的过程中还遇到了很多问题，在文末。首先说一下我的安装步骤如下：1、......
  • 【Redis】RDB AOF
    AOF和RDB是两种redis持久化的机制。RDB:RDB是将支持当前数据的快照存成一个数据文件的持久化机制。1.在生成快照时，将当前进程fork出一个子进程.2.然后在子进程中循环所有......
  • SpringCloudAlibaba整合Dubbo集群形式
    在文件bootstrap-cqa.propertiesspring.cloud.nacos.config.server-addr=172.16.99.96:8848,172.16.99.97:8848,172.16.99.98:8848spring.cloud.nacos.discovery.server-ad......
  • k8s消息队列-rabbiMQ集群(pod初始化安装消息延迟插件)
    一、方案：在k8s上部署rabbitMQ集群，pod初始化时安装消息延迟插件。二、部署参考rabbitMQ官方：https://www.rabbitmq.com/kubernetes/operator/operator-overview.html1、部......
  • 基础篇Redis
    1.初识Redis1.1.关系型与非关系型的差异存储方式关系型数据库基于磁盘进行存储，会有大量的磁盘IO，对性能有一定影响非关系型数据库，他们的操作更多的是依赖于内存来操......
  • Mysql主从复制与读写分离
    参考：https://www.bilibili.com/video/BV13a411q753?p=172&vd_source=c85b4a015a69e82ad4f202bd9b87697f主从复制介绍  配置-前置条件 -主库Master找不到的可......
  • docker配置mysql主从复制
    1、新建主服务器容器实例3310dockerrun-p3310:3306--namemysql-master\-v/mydata/mysql-master/log:/var/log/mysql\-v/mydata/mysql-master/data:/var/lib/m......
  • redis分布式锁探讨
     基于jedis的能力，探讨了分布式锁的一些初级实现publicclassDistributeLock{privateJedisClusterjedisCluster;publicDistributeLock(){Se......
  • redis基础
    一、五大数据类型1、Redis键(key)①、首先创建一些key，并赋上对应值：redis127.0.0.1:6379>SETw3c1redisOKredis127.0.0.1:6379>SETw3c2mysqlOKredis127.0......

赞助商

阅读排行

网站主页关于我们联系我们网站地图

本网站内容转载自其他媒体，侵权联系[admin##ips99.com]。

Copyright © 2020-2023 IPS99 版权所有 IPS99