首页 > 数据库 >Redis7 数据持久化AOF

Redis7 数据持久化AOF

时间:2023-11-16 20:32:25浏览次数:39  
标签:AOF 持久 aof Redis7 redis 命令 文件 重写

1、官网介绍

Redis7 数据持久化AOF_重启

2、是什么

以日志的形式来记录每个写操作,将Redis执行过的所有写指令记录下来(读操作不记录)
只许追加文件但不可以改写文件,redis启动之初会读取该文件重新构建数据,换言之,redis重启的话就根据日志文件的内容将写指令从前到后执行一次以完成数据的恢复工作
默认情况下,redis是没有开启AOF(append only file)的
开启AOF功能需要设置配置:appendonly yes

3、能干啥

Redis7 数据持久化AOF_Redis_02

4、AOF保存的是appendonly.aof文件

5、AOF持久化工作流程

Redis7 数据持久化AOF_redis_03

1 Client作为命令的来源,会有多个源头以及源源不断的请求命令。
2 在这些命令到达Redis Server 以后并不是直接写入AOF文件,会将其这些命令先放入AOF缓存中进行保存。这里的AOF缓冲区实际上是内存中的一片区域,存在的目的是当这些命令达到一定量以后再写入磁盘,避免频繁的磁盘IO操作。
3 AOF缓冲会根据AOF缓冲区同步文件的三种写回策略将命令写入磁盘上的AOF文件。
4 随着写入AOF内容的增加为避免文件膨胀,会根据规则进行命令的合并(又称AOF重写),从而起到AOF文件压缩的目的。
5 当Redis Server 服务器重启的时候会从AOF文件载入数据。

6、AOF缓冲区三种写回策略

Redis7 数据持久化AOF_Redis_04

always
同步写回,每个写命令执行完立刻同步地将日志写回磁盘
everysec
每秒写回,每个写命令执行完,只是先把日志写到AOF文件的内存缓冲区,每隔1秒把缓冲区中的内容写入磁盘
no
操作系统控制的写回,每个写命令执行完,只是先把日志写到AOF文件的内存缓冲区,由操作系统决定何时将缓冲区内容写回磁盘

Redis7 数据持久化AOF_redis_05

7、AOF配置/启动/修复/恢复

7.1、配置文件说明(6 VS 7)

7.1.1、如何开启aof

Redis7 数据持久化AOF_redis_06

7.1.2、默认写回策略

使用默认写回策略,每秒钟

Redis7 数据持久化AOF_重启_07

7.1.3、aof保存路径

redis6
AOF保存文件的位置和RDB保存文件的位置一样,都是通过redis.conf配置文件的dir配置

Redis7 数据持久化AOF_重启_08

redis7之后更新

Redis7 数据持久化AOF_redis_09

Redis7 数据持久化AOF_redis_10

7.1.4、aof文件保存名称

redis6
有且仅有一个

Redis7 数据持久化AOF_重启_11

redis7 Multi Part AOF设计

Redis7 数据持久化AOF_redis_12

Redis7 数据持久化AOF_重启_13

base基本文件
incr增量文件
manifest清单文件

Redis7 数据持久化AOF_redis_14

7.2、正常恢复

1、启动设置yes
修改默认的appendonly no改为yes

2、写操作继续,生成aof文件到指定的目录

恢复1:重启redis然后重新加载,结果OK

恢复2:
写入数据进redis,然后flushdb+shutdown服务器
新生成了dump和aof
备份新生成的aof目录,然后删除dump/aof目录再看恢复
重启redis然后重新加载试试
停止服务器,拿出我们的备份修改后再重新启动服务器看看

7.3、异常恢复

故意乱写正常的AOF文件
模拟网络闪断文件写error

Redis7 数据持久化AOF_重启_15

重启redis之后就会进行AOF文件的载入,发现启动都不行
异常修复命令:redis-check-aof --fix 进行修复
重新OK

Redis7 数据持久化AOF_Redis_16

8、优势

Redis7 数据持久化AOF_重启_17

更好的保护数据不丢失、性能高、可做紧急恢复

9、劣势

Redis7 数据持久化AOF_Redis_18

相同数据集的数据而言aof文件要远大于rdb文件,恢复速度慢于rdb
aof运行效率要慢于rdb,每秒同步策略效率较好,不同步效率和rdb相同

10、AOF重写机制

10.1、是什么

由于AOF持久化是Redis不断将写命令记录到 AOF 文件中,随着Redis不断的进行,AOF 的文件会越来越大,
文件越大,占用服务器内存越大以及 AOF 恢复要求时间越长。

为了解决这个问题,Redis新增了重写机制,当AOF文件的大小超过所设定的峰值时,Redis就会自动启动AOF文件的内容压缩,
只保留可以恢复数据的最小指令集
或者
可以手动使用命令 bgrewriteaof 来重新。

一句话:
启动AOF文件的内容压缩,只保留可以恢复数据的最小指令集

Redis7 数据持久化AOF_重启_19

10.2、触发机制

Redis7 数据持久化AOF_重启_20

注意 ,同时满足,且的关系才会触发
1 根据上次重写后的aof大小,判断当前aof大小是不是增长了1倍
2 重写时满足的文件大小

自动触发
满足配置文件中的选项,redis会记录上次重写时的AOF大小
默认配置是当AOF文件大小是上次rewrite后大小的一倍,且文件大于64M时

手动触发
客户端向服务器发送bgrewriteaof命令

10.3、案例说明

10.3.1、说明

启动AOF文件的内容压缩,只保留可以恢复数据的最小指令集。
举个例子:比如有个key 
一开始你  set k1 v1
然后改成  set k1 v2
最后改成  set k1 v3
如果不重写,那么这3条语句都在aof文件中,内容占空间不说启动的时候都要执行一遍,共计3条命令;
但是,我们实际效果只需要set k1 v3这一条,所以,
开启重写后,只需要保存set k1 v3就可以了只需要保留最后一次修改值,相当于给aof文件瘦身减肥,性能更好。
AOF重写不仅降低了文件的占用空间,同时更小的AOF也可以更快地被Redis加载。

10.3.2、配置准备

1、开启aof
appendonly yes

2、重写峰值改为1k
auto-aof-rewrite-percentage 100
auto-aof-rewrite-min-size 1k

3、关闭混合,设置为no
aof-use-rdb-preamble no

4、删除之前的全部aof和rdb,清除干扰项

10.3.3、自动触发

重启redis服务器,执行set k1 v1查看aof是否正常

Redis7 数据持久化AOF_Redis_21

查看三大配置文件

Redis7 数据持久化AOF_redis_22

Redis7 数据持久化AOF_Redis_23

k1不停1111111暴涨

Redis7 数据持久化AOF_Redis_24

重写触发

Redis7 数据持久化AOF_Redis_25

10.3.4、手动触发

Redis7 数据持久化AOF_Redis_26

10.3.5、结论

Redis7 数据持久化AOF_重启_27

10.4、重写原理

1:在重写开始前,redis会创建一个“重写子进程”,这个子进程会读取现有的AOF文件,并将其包含的指令进行分析压缩并写入到一个临时文件中。
2:与此同时,主进程会将新接收到的写指令一边累积到内存缓冲区中,一边继续写入到原有的AOF文件中,这样做是保证原有的AOF文件的可用性,避免在重写过程中出现意外。
3:当“重写子进程”完成重写工作后,它会给父进程发一个信号,父进程收到信号后就会将内存中缓存的写指令追加到新AOF文件中
4:当追加结束后,redis就会用新AOF文件来代替旧AOF文件,之后再有新的写指令,就都会追加到新的AOF文件中
5:重写aof文件的操作,并没有读取旧的aof文件,而是将整个内存中的数据库内容用命令的方式重写了一个新的aof文件,这点和快照有点类似

11、AOF优化配置项详解

Redis7 数据持久化AOF_Redis_28

12、总结

Redis7 数据持久化AOF_redis_29

标签:AOF,持久,aof,Redis7,redis,命令,文件,重写
From: https://blog.51cto.com/u_13236892/8432034

相关文章

  • HarmonyOS数据管理与应用数据持久化(一)
    一.数据管理概述功能介绍数据管理为开发者提供数据存储、数据管理能力,比如联系人应用数据可以保存到数据库中,提供数据库的安全、可靠等管理机制。● 数据存储:提供通用数据持久化能力,根据数据特点,分为用户首选项、键值型数据库和关系型数据库。● 数据管理:提供高效的数据管理能......
  • Redis持久化⽅式有哪些?有什么区别?
    Redis持久化⽅案分为RDB和AOF两种。RDBRDB持久化是把当前进程数据生成快照保存到硬盘的过程,触发RDB持久化过程分为手动触发和自动触发。RDB⽂件是⼀个压缩的⼆进制⽂件,通过它可以还原某个时刻数据库的状态。由于RDB⽂件是保存在硬盘上的,所以即使Redis崩溃或者退出,只要RDB⽂件存在,......
  • scrapy解析数据,配置文件,整站爬取cnblogs,持久化
    1scrapy解析数据......
  • python3使用sqlite3构建本地持久化缓存
    环境:Windows10_x64python版本:3.9.2sqlite3版本:3.34.0日常python开发中会遇到数据持久化的问题,今天记录下如何使用sqlite3进行数据持久化,并提供示例代码及数据查看工具。一、背景描述python应用程序在运行过程中被kill掉(比如版本升级等情况),内存中的运行数据将会丢失,如果能够......
  • Redis分布式缓存、AOF与RDB详解
    分布式缓存单点Redis的问题1.数据丢失问题Redis是内存存储,服务重启可能会丢失数据2.并发能力问题单节点Redis并发能力虽然不错,但也无法满足如618这样的高并发场景3.故障恢复问题如果Redis宕机,则服务不可用,需要一种自动的故障恢复手段4.存储能力问题Redis基于内存,单节点能存储的数据......
  • eframe 持久化实现
    在Native平台上,eframe将应用程序的指定信息存储在文件系统中,并由开发者决定启动时是否需要加载这些此前保存的应用程序信息.在Web平台,这些信息则存储在浏览器的local-storage中.这篇文章将以Native平台为例,探究以下几个问题:持久化是怎样实现的?持久化的时......
  • HarmonyOS数据管理与应用数据持久化(二)
    通过键值型数据库实现数据持久化场景介绍键值型数据库存储键值对形式的数据,当需要存储的数据没有复杂的关系模型,比如存储商品名称及对应价格、员工工号及今日是否已出勤等,由于数据复杂度低,更容易兼容不同数据库版本和设备类型,因此推荐使用键值型数据库持久化此类数据。约束限制......
  • HarmonyOS数据管理与应用数据持久化(二)
    通过键值型数据库实现数据持久化场景介绍键值型数据库存储键值对形式的数据,当需要存储的数据没有复杂的关系模型,比如存储商品名称及对应价格、员工工号及今日是否已出勤等,由于数据复杂度低,更容易兼容不同数据库版本和设备类型,因此推荐使用键值型数据库持久化此类数据。约束限......
  • 探索在openebs中使用lvm做持久化
    1.部署官网:https://openebs.iolvm项目地址:https://github.com/openebs/lvm-localpv1.1.本地创建vgaptinstalllvm2-ylsblk#创建pv和vgsudopvcreate/dev/loop0sudovgcreatelvmvg/dev/loop0注意:这里根据自己需求看是否全部的node节点都需要使用lvm做本地存储,也可......
  • HarmonyOS数据管理与应用数据持久化(一)
    HarmonyOS数据管理与应用数据持久化(一)一.数据管理概述功能介绍数据管理为开发者提供数据存储、数据管理能力,比如联系人应用数据可以保存到数据库中,提供数据库的安全、可靠等管理机制。● 数据存储:提供通用数据持久化能力,根据数据特点,分为用户首选项、键值型数据库和关系型数据库......