首页 > 数据库 >Redis的持久化存储和集群管理操作

Redis的持久化存储和集群管理操作

时间:2024-10-22 17:19:15浏览次数:3  
标签:AOF 存储 持久 Redis 集群 RDB 节点

Redis 的持久化存储和集群

一、引言

Redis 是一个开源的内存数据结构存储系统,被广泛应用于缓存、消息队列、排行榜等场景。然而,由于数据存储在内存中,一旦服务器重启或出现故障,数据就会丢失。为了解决这个问题,Redis 提供了两种持久化存储方式:RDB(Redis Database)和 AOF(Append Only File)。同时,为了提高系统的可扩展性和可用性,Redis 还支持集群模式。

二、Redis 的持久化存储

(一)RDB 持久化

  1. 工作原理

    • RDB 持久化是通过创建一个内存快照来保存 Redis 数据库在某个时间点的状态。这个快照文件可以在 Redis 服务器重启时加载,从而恢复数据库的状态。

    • Redis 会在指定的时间间隔内或者当满足特定条件时(如执行了一定数量的写操作),自动触发 RDB 持久化。

  2. 优点

    • 生成的 RDB 文件紧凑,体积小,便于备份和恢复。

    • 恢复数据的速度非常快,因为只需要将 RDB 文件加载到内存中即可。

  3. 缺点

    • 由于是在特定时间点创建快照,所以可能会丢失在快照创建之间的数据。

    • 当数据量较大时,创建快照可能会导致 Redis 服务器暂时停止服务,影响性能。

  4. 配置方法

    • 在 Redis 配置文件中,可以通过以下参数来配置 RDB 持久化:

      • save <seconds> <changes>:指定在多少秒内有多少个键被修改时触发 RDB 持久化。例如,save 900 1表示在 900 秒内至少有 1 个键被修改时触发 RDB 持久化。

      • dbfilename <filename>:指定 RDB 文件的文件名。

      • dir <directory>:指定 RDB 文件的存储目录。

(二)AOF 持久化

  1. 工作原理

    • AOF 持久化是通过记录 Redis 服务器执行的所有写命令来保存数据库的状态。这些写命令以文本形式追加到 AOF 文件中。当 Redis 服务器重启时,可以通过重新执行 AOF 文件中的写命令来恢复数据库的状态。

    • Redis 可以在每次执行写命令时立即将命令追加到 AOF 文件中,也可以设置为每隔一段时间追加一次。

  2. 优点

    • 可以提供更好的数据持久性,因为它记录了所有的写操作,不会丢失数据。

    • AOF 文件易于理解和解析,可以用于数据恢复和故障排查。

  3. 缺点

    • AOF 文件通常比 RDB 文件大,因为它记录了所有的写操作。

    • 恢复数据的速度相对较慢,因为需要重新执行所有的写命令。

  4. 配置方法

    • 在 Redis 配置文件中,可以通过以下参数来配置 AOF 持久化:

      • appendonly yes:开启 AOF 持久化。

      • appendfsync always|everysec|no:指定 AOF 文件的同步方式。always表示每次执行写命令时立即同步到 AOF 文件;everysec表示每秒同步一次;no表示由操作系统决定何时同步。

      • no-appendfsync-on-rewrite no|yes:在进行 AOF 重写时是否禁止同步 AOF 文件。如果设置为yes,可以提高 AOF 重写的性能,但可能会导致数据丢失。

      • auto-aof-rewrite-percentage <percentage>:指定 AOF 文件相对于上次重写后的增长比例,当增长比例达到这个值时,Redis 会自动触发 AOF 重写。例如,auto-aof-rewrite-percentage 100表示当 AOF 文件大小是上次重写后的两倍时,触发 AOF 重写。

      • auto-aof-rewrite-min-size <size>:指定触发 AOF 重写的最小文件大小。例如,auto-aof-rewrite-min-size 64mb表示当 AOF 文件大小大于 64MB 时,触发 AOF 重写。

(三)选择合适的持久化方式

  1. 根据数据重要性选择

    • 如果数据非常重要,不能丢失,那么可以选择 AOF 持久化。因为 AOF 记录了所有的写操作,可以保证数据的完整性。

    • 如果数据相对不重要,或者可以接受一定程度的数据丢失,那么可以选择 RDB 持久化。RDB 文件体积小,恢复速度快,适用于对性能要求较高的场景。

  2. 根据性能需求选择

    • RDB 持久化在创建快照时可能会导致 Redis 服务器暂时停止服务,影响性能。如果对性能要求非常高,可以选择 AOF 持久化,因为它可以在后台进行重写操作,不会影响服务器的正常运行。

    • 但是,AOF 文件通常比 RDB 文件大,恢复数据的速度也相对较慢。如果对恢复速度要求非常高,可以选择 RDB 持久化。

  3. 结合使用

    • 也可以结合使用 RDB 和 AOF 持久化,以充分发挥两者的优势。例如,可以定期使用 RDB 持久化创建快照,同时使用 AOF 持久化记录所有的写操作。这样,在恢复数据时,可以先加载 RDB 文件,然后再重放 AOF 文件中的写命令,从而提高恢复速度和数据的完整性。

三、Redis 的集群

(一)集群的概念和优势

  1. 概念

    • Redis 集群是由多个 Redis 节点组成的分布式系统。这些节点可以分布在不同的服务器上,通过网络进行通信和协作。

    • Redis 集群中的每个节点都负责存储一部分数据,并可以处理客户端的请求。当客户端向集群发送请求时,Redis 会根据请求的键值对计算出应该由哪个节点来处理这个请求,并将请求转发到相应的节点。

  2. 优势

    • 可扩展性:可以通过添加更多的节点来扩展集群的存储容量和处理能力。

    • 高可用性:如果某个节点出现故障,其他节点可以继续处理请求,不会导致整个系统的瘫痪。

    • 负载均衡:请求可以均匀地分布到各个节点上,避免单个节点负载过高。

(二)集群的搭建

  1. 准备工作

    • 安装多个 Redis 服务器,并确保它们可以相互通信。

    • 为每个 Redis 服务器创建一个配置文件,指定不同的端口号和数据存储目录。

  2. 创建集群

    • 使用 Redis 提供的redis-cli工具来创建集群。可以使用以下命令来创建一个包含六个节点的集群:

redis-cli --cluster create <node1_ip>:<node1_port> <node2_ip>:<node2_port> <node3_ip>:<node3_port> <node4_ip>:<node4_port> <node5_ip>:<node5_port> <node6_ip>:<node6_port> --cluster-replicas 1
  • 这个命令会将六个节点组成一个集群,并为每个主节点分配一个从节点。

  1. 验证集群

    • 使用redis-cli连接到集群中的任意一个节点,并执行一些命令来验证集群是否正常工作。例如,可以使用setget命令来设置和获取键值对,然后检查结果是否正确。

(三)集群的操作和管理

  1. 添加和删除节点

    • 可以使用redis-cli工具来添加和删除集群中的节点。例如,可以使用以下命令来添加一个新的节点:

redis-cli --cluster add-node <new_node_ip>:<new_node_port> <existing_node_ip>:<existing_node_port>
  • 这个命令会将新的节点添加到集群中,并将其分配给一个主节点作为从节点。

  • 要删除一个节点,可以使用以下命令:

redis-cli --cluster del-node <node_ip>:<node_port> <node_id>
  • 这个命令会从集群中删除指定的节点,并将其负责的数据迁移到其他节点上。

  1. 数据迁移

    • 当添加或删除节点时,可能需要进行数据迁移。Redis 集群会自动将数据从一个节点迁移到另一个节点,以保持数据的均衡分布。

    • 可以使用redis-cli工具来监控数据迁移的进度。例如,可以使用以下命令来查看数据迁移的状态:

redis-cli --cluster info <node_ip>:<node_port>
  1. 故障转移

    • 如果主节点出现故障,Redis 集群会自动进行故障转移。从节点会被提升为主节点,并开始处理客户端的请求。

    • 可以使用redis-cli工具来监控故障转移的过程。例如,可以使用以下命令来查看集群的状态:

redis-cli --cluster check <node_ip>:<node_port>

四、示例

(一)RDB 持久化示例

以下是一个简单的 Redis 配置文件示例,展示了如何配置 RDB 持久化:

# 开启 RDB 持久化
save 900 1
save 300 10
save 60 10000
​
# 指定 RDB 文件的文件名和存储目录
dbfilename dump.rdb
dir /var/lib/redis

在这个配置文件中,Redis 会在 900 秒内至少有 1 个键被修改、300 秒内至少有 10 个键被修改或者 60 秒内至少有 10000 个键被修改时触发 RDB 持久化。RDB 文件的文件名是dump.rdb,存储在/var/lib/redis目录下。

(二)AOF 持久化示例

以下是一个简单的 Redis 配置文件示例,展示了如何配置 AOF 持久化:

# 开启 AOF 持久化
appendonly yes
​
# 指定 AOF 文件的同步方式为每秒同步一次
appendfsync everysec
​
# 禁止在 AOF 重写时同步 AOF 文件,以提高性能
no-appendfsync-on-rewrite yes
​
# 当 AOF 文件大小是上次重写后的两倍时,触发 AOF 重写
auto-aof-rewrite-percentage 100
​
# 当 AOF 文件大小大于 64MB 时,触发 AOF 重写
auto-aof-rewrite-min-size 64mb

在这个配置文件中,Redis 会开启 AOF 持久化,并将 AOF 文件的同步方式设置为每秒同步一次。在进行 AOF 重写时,会禁止同步 AOF 文件,以提高性能。当 AOF 文件大小是上次重写后的两倍或者大于 64MB 时,会触发 AOF 重写。

(三)Redis 集群示例

以下是一个简单的 Redis 集群创建和验证的示例:

  1. 安装多个 Redis 服务器,并为每个服务器创建一个配置文件。例如,以下是一个节点的配置文件示例:

port 7000
cluster-enabled yes
cluster-config-file nodes-7000.conf
cluster-node-timeout 5000
appendonly yes

在这个配置文件中,指定了 Redis 服务器的端口号为 7000,开启了集群模式,并指定了集群配置文件和节点超时时间。同时,开启了 AOF 持久化。

  1. 使用redis-cli工具创建集群:

redis-cli --cluster create 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 --cluster-replicas 1

这个命令会将六个节点组成一个集群,并为每个主节点分配一个从节点。

  1. 验证集群:

使用redis-cli连接到集群中的任意一个节点,并执行一些命令来验证集群是否正常工作。例如,可以使用以下命令来设置和获取键值对:

redis-cli -c -p 7000
set key value
get key

如果能够正确设置和获取键值对,说明集群正常工作。

五、总结

Redis 的持久化存储和集群功能为用户提供了强大的数据管理和高可用性解决方案。通过选择合适的持久化方式,可以保证数据的安全性和完整性;通过搭建集群,可以提高系统的可扩展性和可用性。在实际应用中,需要根据具体的需求和场景来选择合适的方案,并进行合理的配置和管理。

标签:AOF,存储,持久,Redis,集群,RDB,节点
From: https://blog.csdn.net/wu73guang5jian/article/details/143056329

相关文章

  • redis mysql nginx的docker-compose
    redismysqlnginx的docker-composeversion:'3'services:nginx:image:docker.m.daocloud.io/nginx:latestcontainer_name:nginxrestart:unless-stoppedenvironment:TZ:Asia/ShanghaiLANG:en_US.UTF-8volumes:#......
  • LocalStorage和SessionStorage存储
    认识Storage◼WebStorage主要提供了一种机制,可以让浏览器提供一种比cookie更直观的key、value存储方式:cookie:服务器返回自动返回一个cooki,浏览器将cookie存储到本地,浏览器再发送请求自动把cooki传递过去localStorage:本地存储,提供的是一种永久性的存储方法,在关闭掉网页......
  • 一文彻底弄懂并解决Redis的缓存雪崩,缓存击穿,缓存穿透
    缓存雪崩、缓存击穿、缓存穿透是分布式系统中使用缓存时,常遇到的三类问题,都会对系统性能和稳定性产生严重影响。下面将详细介绍这三者的定义、产生原因、危害以及常见的解决方案。1.缓存雪崩1.1定义缓存雪崩是指在某一时刻,大量缓存同时失效,导致大量请求直接打到数据库层,造成......
  • Redis持久化之RDB备份方式保存数据
    一:什么是redis的持久化官网介绍:英文:https://redis.io/topics/persistence中文:http://www.redis.cn/topics/persistence.html二:Redis的RDB是什么?在指定的时间间隔内将内存中的数据集快照写入磁盘,也就是行话讲的Snapshot快照,它恢复时是将快照文件直接读到内存里,Redis会单独创建(fork)......
  • ELK01 Elasticsearch部署和管理,集群工作机制 ubuntu使用
    企业级日志分析系统ELK1.1.1什么是ELK1.Elasticsearch是一个实时的全文搜索,存储库和分析引擎。2.Logstash是数据处理的管道,能够同时从多个来源采集数据,转换数据,然后将数据发送到诸如Elasticsearch等存储库中。(java开发,有数据处理能力,比较重)3.Kibana则可以让用户......
  • 大数据新视界 --大数据大厂之 Snowflake 在大数据云存储和处理中的应用探索
           ......
  • MongoDB 5 安装&副本集搭建&集群搭建
    单节点安装需要一个数据目录地址,一个日志文件地址,配置文件##数据目录地址--dapath=##日志文件--logpath=##配置文件--config=***.conf下载https://fastdl.mongodb.org/osx/mongodb-macos-x86_64-5.0.27.tgz启动命令/data/dba/yanhao/application/mongodb/bin/mong......
  • ISUP协议视频平台:EasyCVR私有化视频平台视频汇聚,存储系统怎么选?
    一、EasyCVR视频监控存储系统的核心优势TSINGSEE青犀EasyCVR视频汇聚平台是一个具备高度集成化、智能化的视频监控汇聚管理平台,拥有远程视频监控、录像、存储、回放、语音对讲、云台控制、告警等多项核心功能。该系统采用先进的网络传输技术,支持高清视频的接入和传输,能够满足大规......
  • MongoDB 集群部署
    MongoDB集群部署环境系统:CentOS7主机端口角色192.168.93.10027017master192.168.93.10127017slave192.168.93.10227017arditer镜像拉取dockerpullmongo:4.4挂载目录#配置文件地址mkdir-p/data/mongodb/configdb#db存放地址mkdir-p......
  • Go--获取redis/parker集群的客户端列表信息
    下载依赖:goget-ugithub.com/go-redis/redis 文件代码:packagemainimport("context""fmt""log""strings""time""github.com/go-redis/redis/v8")funcmain(){//......