Redis学习笔记

标签：存储 slave Redis redis 笔记 学习 key 数据

一、Redis简介

1.1NOSQL

NoSQL(NoSQL = Not Only SQL)，意即“不仅仅是SQL”，是一项全新的数据库理念，泛指非关系型的数 据库。随着互联网web2.0网站的兴起，传统的关系数据库在应付web2.0网站，特别是超大规模和高并 发的SNS类型,web2.0纯动态网站已经显得力不从心，暴露了很多难以克服的问题，而非关系型的数据 库则由于其本身的特点得到了非 常迅速的发展。NoSQL数据库的产生就是为了解决大规模数据集合多 重数据种类带来的挑战，尤其是大数据应用难题。

1.2NOSQL和关系型数据库对比

优点:

1. 成本：nosql数据库简单易部署，基本都是开源软件，不需要像使用oracle那样花费大量成本购 买使用，相比关系型数据库价格便宜。
2. 查询速度：nosql数据库将数据存储于缓存之中，关系型数据库将数据存储在硬盘中，自然查询 速度远不及nosql数据库。
3. 存储数据的格式：nosql的存储格式是key,value形式、文档形式、图片形式等等，所以可以存 储 基础类型以及对象或者是集合等各种格式，而数据库则只支持基础类型。
4. 扩展性：关系型数据库有类似join这样的多表查询机制的限制导致扩展很艰难。

缺点：

1. 维护的工具和资料有限，因为nosql是属于新的技术，不能和关系型数据库10几年的技术同日而 语。
2. 不提供对sql的支持，如果不支持sql这样的工业标准（不遵循SQL标准），将产生一定用户的学习 和使用成本。
3. 不提供关系型数据库对事务的处理。

1.3Redis介绍

Redis (REmote DIctionary Server) 是用 C 语言开发的一个开源的高性能键值对（key-value）数 据库。

特征：

1. 数据间没有必然的关联关系
2.  内部采用单线程机制进行工作
3. 高性能，官方提供测试数据，50个并发执行100000 个请求,读的速度是110000 次/s,写的速度是 81000次/s。
4. 多数据类型支持 字符串类型 string 列表类型 list 散列类型 hash 集合类型 set 有序集合类型 sorted_set
5. 持久化支持。可以进行数据灾难恢复
6. 数据结构丰富，支持五种数据类型：string（字符串），hash（哈希），list（列表），set（集合）及zset(sorted set：有序集合)。

二、Redis下载安装

2.1Redis下载

Windows版本：

• Redis 入门使用
• 以 3.2 版本作为主版本
• 下载地址：Tags · microsoftarchive/redis · GitHub

2.2 安装 Redis

下载后解压缩后打开如下图所示：

我的安装目录D:\Apesource\redis\Redis-x64-3.2.100

核心文件：

• redis-server.exe 服务器启动命令
• redis-cli.exe 命令行客户端
• redis.windows.conf redis核心配置文件
• redis-benchmark.exe 性能测试工具
• redis-check-aof.exe AOF文件修复工具
• redis-check-dump.exe RDB文件检查工具（快照持久化文件）

2.3启动Redis

方式一：双击redis-server.exe

方式二：指令redis-server.exe redis.windows.conf

运行效果：

客户端连接：

点击redis-cli.exe启动客户端

三.Redis 数据类型（5种常用）

数据类型指的是key-value中的value的类型，key永远是字符串 。

1. string                字符串

2. hash                    哈希

3. list                       列表（有序 可重复）

4. set                       集合（无序 不可重复）

5. sorted_set         有序集合（可重复，可以基于score实现排序）

3.1String

• 存储的数据：单个数据，最简单的数据存储类型，也是最常用的数据存储类型
• 存储数据的格式：一个存储空间保存一个数据
• 存储内容：通常使用字符串，如果字符串以整数的形式展示，可以作为数字操作使用

应用场景：计数器(incr、decr)、存储对象（不经常变化的）、验证码(setex)

命令：

set key value      添加/修改数据（key存在，覆盖原值相当于修改）

get key            获取数据

del key            删除数据

setnx key value 判定性添加数据；key存在，则添加失败
    
mset key1 value1 key2 value2 ... 添加/修改多个数据

mget key1 key2 ...                获取多个数据

strlen key            获取数据字符个数

append key value             追加信息到原始信息尾部（如果原始信息存在就追加，否则创建）

incr key             ++（原值不存在，从0开始加）设置数值数据增加指定范围的值
incrby key increment  +n
incrbyfloat key increment 

decr key              --    设置数值数据减少指定范围的值
decrby key increment  -n

setex key seconds value          设置数据具有指定的生命周期(单位秒)
psetex key milliseconds value    设置数据具有指定的生命周期（单位毫秒）

EXPIRE key seconds               设置key的过期时间

ttl key                          查看key的剩余时间

3.2hash类型

hash哈希特点：

• 新的存储需求：对一系列存储的数据进行编组，方便管理，典型应用存储对象信息
• 需要的存储结构：一个存储空间保存多个键值对数据
• hash类型：底层使用哈希表结构实现数据存储

hash存储结构优化 ：

• 如果field数量较少，存储结构优化为类数组结构
• 如果field数量较多，存储结构使用HashMap结构

应用场景：购物车、存储对象（频繁发生变化的）

命令：

hset key field value                添加/修改数据

hget key field                      获取数据
hgetall key  对操作数据量可能会比较大的指令，一定要小心，不要阻塞后面命令执行。先获取长度hlen key

hmset key field1 value1 field2 value2 ...
hmget key field1 field2 ...

hdel key field1 [field2] ..         删除数据

hlen key                            获取哈希表中字段的数量

hexists key                         判断对应redis的键是否有值

hkeys key                           获取哈希表中所有的字段名    // 在明确数量之前，慎用
hvals key                           获取哈希表中所有的字段值    // 在明确数量之前，慎用

3.3list类型

• 数据存储需求：存储多个数据，并对数据进入存储空间的顺序进行区分
• 需要的存储结构：一个存储空间保存多个数据，且通过数据可以体现进入顺序
• list类型：保存多个数据，底层使用双向链表存储结构实现

键为字符串，值为list。

双向链表，所以可以左右两端操作；

命令中涉及两端操作的，l表示 左，r表示右；其他情况下命令以l开头

没有索引越界异常，获取超出索引返回的是nil

应用场景：数据顺序添加并汇总，例如消息队列

命令：

lpush key value1 [value2] ……            添加/修改数据
rpush key value1 [value2] ……            添加/修改数据

lrange key start stop                    获取数据
lindex key index                       获取指定索引的值
llen key
            
lpop key                                获取并移除数据
rpop key                                获取并移除数据


ltrim key start end         通过下标截取指定的长度，这个list已经被改变了，只剩下截取的元素
lset                        将列表中指定下标的值替换为另外一个值，更新操作
lset key 下标 新数据         # 如果不存在列表我们去更新就会报错

blpop key1 [key2] timeout  规定时间内获取并移除数据
brpop key1 [key2] timeout  规定时间内获取并移除数据
brpoplpush source destination timeout 迁移数据

3.4set类型

• 新的存储需求：存储大量的数据，在查询方面提供更高的效率
• 需要的存储结构：能够保存大量的数据，高效的内部存储机制，便于查询
• set类型：与hash存储结构完全相同，仅存储键，不存储值（nil），并且值是不允许重复的

命令：

sadd key member1 [member2]              添加数据

smembers key                            获取全部数据

srem key member1 [member2]                删除数据

scard key                                获取集合数据总量

sismember key member                     判断集合中是否包含指定数据

srandmember key [count] 随机获取集合中指定数量的数据

spop key  随机获取集合中的某个数据并将该数据移出集合

sinter key1 [key2] ..  交集
sunion key1 [key2] ..  并集
sdiff key1 [key2] ..   差集

求两个集合的交、并、差集并存储到指定集合中
sinterstore destination key1 [key2]
sunionstore destination key1 [key2]
sdiffstore destination key1 [key2]

将指定数据从原始集合中移动到目标集合中
smove source destination member

set 类型数据操作的注意事项：

1. set 类型不允许数据重复，如果添加的数据在 set 中已经存在，将只保留一份
2. set 虽然与hash的存储结构相同，但是无法启用hash中存储值的空间

3.5 sort_set类型

• 新的存储需求：数据排序有利于数据的有效展示，需要提供一种可以根据自身特征进行排序的方式
• 需要的存储结构：新的存储模型，可以保存可排序的数据
• sorted_set类型：在set的存储结构基础上添加可排序字段

命令：

zadd key score1 member1 [score2 member2]        添加数据

获取全部数据
zrange key start(开始索引) stop(结束索引) [WITHSCORES] #[WITHSCORES]可以除了数据还
显示分值

zrevrange key start stop [WITHSCORES] 反转

zrem key member [member ...]                    删除数据

zcard key                                       获取集合数据总量

综合命令：

key:

del key  -- 删除键值
expires key seconds -- 设置键的有效时长
ttl key -- 查看键的有效时长

keys *   // 所有不确定范围的操作，都要慎重！！！
type key
exists key  -- 判断key是否存在
persist key -- 将key变为永久有效

// 有效期
永久 -1
失效/不存在 -2

四、Jedis

我们要使用 Java 来操作 Redis，什么是Jedis 是 Redis 官方推荐的 java连接开发工具！ 使用Java 操作 Redis 中间件！

1.导入相关依赖

 <dependency>
      <groupId>redis.clients</groupId>
      <artifactId>jedis</artifactId>
      <version>3.2.0</version>
</dependency>

2.测试

import redis.clients.jedis.Jedis;
@SpringBootTest
class SpringbootJedisApplicationTests {
  @Test
    public void jedisTest(){
        Jedis jedis = new Jedis("127.0.0.1", 6379);
        System.out.println(jedis.ping());
        System.out.println(jedis.set("name", "张三"));
        System.out.println(jedis.get("name"));
    }
}

其中Jedis的所有方法都是之前redis的指令

五、Redis

jedis : 采用的直连，多个线程操作的话，是不安全的，如果想要避免不安全的，使用 jedis pool 连接池

lettuce : 采用netty，实例可以再多个线程中进行共享，不存在线程不安全的情况！可以减少线程数据 了

1.加入Redis相关依赖

        <!--导入jedis的包-->
        <!-- https://mvnrepository.com/artifact/redis.clients/jedis -->
        <dependency>
            <groupId>redis.clients</groupId>
            <artifactId>jedis</artifactId>
            <version>3.2.0</version>
        </dependency>

2.application.properties中加入redis相关配置

# Redis数据库索引（默认为0）
spring.redis.database=0
# Redis服务器地址
spring.redis.host=192.168.0.24
# Redis服务器连接端口
spring.redis.port=6379
# Redis服务器连接密码（默认为空）
spring.redis.password=
# 连接池最大连接数（使用负值表示没有限制）
spring.redis.pool.max-active=200
# 连接池最大阻塞等待时间（使用负值表示没有限制）
spring.redis.pool.max-wait=-1
# 连接池中的最大空闲连接
spring.redis.pool.max-idle=10
# 连接池中的最小空闲连接
spring.redis.pool.min-idle=0
# 连接超时时间（毫秒）
spring.redis.timeout=1000

spring data redis中封装了两个模板类,帮助我们实现redis的crud

                RedisTemplate key value泛型都是object

                StringRedisTemplate key value泛型都是string

注意:

        1.两者数据各自存，各自取，数据不互通。 RedisTemplate不能取StringRedisTemplate存入的数据 StringRedisTemplate不能取RedisTemplate存入的数据。

        2.序列化策略不同: RedisTemplate采用JDK的序列化策略（JdkSerializationRedisSerializer）保存的key 和value都是采用此策略序列化保存的存储时，先将数据序列化为字节数组，再存入Redis数据库。查看Redis会发现，是字节数组的形式类似乱码读取时，会将数据当做字节数组转化为我们需要的数据,以用来存储对象，但是要实现Serializable接口StringRedisTemplate采用String的序列化策略（StringRedisSerializer）保存的key和value都是采用此策略序列化保存的当存入对象时，会报错:can not cast into String 存储和读取，都为可读的数据。

        3.两者的关系是StringRedisTemplate继承RedisTemplate

        4.使用场景: 当你的redis数据库里面本来存的是字符串数据或者你要存取的数据就是字符串类型数据的时候，那 么你就使 用StringRedisTemplate即可。 但是如果你的数据是复杂的对象类型，而取出的时候又不想做任何的数据转换，直接从Redis里面取 出一个对 象，那么使用RedisTemplate是更好的选择。

五大数据类型

• redisTemplate.opsForValue();//操作字符串
• redisTemplate.opsForList();//操作List
• redisTemplate.opsForSet();//操作Set
• redisTemplate.opsForZSet();//操作ZSet
• redisTemplate.opsForHash();//操作Hash

序列化策略：

改变序列化策略

默认序列化方式存储到redis的数据人工不可读

不同策略序列化的过程有性能高低的

spring-data-redis提供如下几种序列化策略

GenericToStringSerializer: 可以将任何对象泛化为字符串并序列化

Jackson2JsonRedisSerializer: 跟JacksonJsonRedisSerializer实际上是一样的

JacksonJsonRedisSerializer: 序列化object对象为json字符串

JdkSerializationRedisSerializer: 序列化java对象

StringRedisSerializer: 简单的字符串序列化

六、redis配置

#是否在后台运行；no：不是后台运行
daemonize yes

#是否开启保护模式，默认开启。要是配置里没有指定bind和密码。开启该参数后，redis只会本地进行访
问，拒绝外部访问。
protected-mode yes

#redis的进程文件
pidfile /var/run/redis/redis-server.pid

#redis监听的端口号。
port 6379

#此参数确定了TCP连接中已完成队列(完成三次握手之后)的长度， 当然此值必须不大于Linux系统定义
的/proc/sys/net/core/somaxconn值，默认是511，而Linux的默认参数值是128。当系统并发量大并
且客户端速度缓慢的时候，可以将这二个参数一起参考设定。该内核参数默认值一般是128，对于负载很大的
服务程序来说大大的不够。一般会将它修改为2048或者更大。在/etc/sysctl.conf中添
加:net.core.somaxconn = 2048，然后在终端中执行sysctl -p。
tcp-backlog 511

#指定 redis 只接收来自于该 IP 地址的请求，如果不进行设置，那么将处理所有请求
#bind 127.0.0.1
#bind 0.0.0.0

#配置unix socket来让redis支持监听本地连接。
# unixsocket /var/run/redis/redis.sock

#配置unix socket使用文件的权限
# unixsocketperm 700

# 此参数为设置客户端空闲超过timeout，服务端会断开连接，为0则服务端不会主动断开连接，不能小于
0。
timeout 0

#tcp keepalive参数。如果设置不为0，就使用配置tcp的SO_KEEPALIVE值，使用keepalive有两个好
处:检测挂掉的对端。降低中间设备出问题而导致网络看似连接却已经与对端端口的问题。在Linux内核中，
设置了keepalive，redis会定时给对端发送ack。检测到对端关闭需要两倍的设置值。
tcp-keepalive 0

#指定了服务端日志的级别。级别包括：debug（很多信息，方便开发、测试），verbose（许多有用的信
息，但是没有debug级别信息多），notice（适当的日志级别，适合生产环境），warn（只有非常重要的信
息）
loglevel notice

#指定了记录日志的文件。空字符串的话，日志会打印到标准输出设备。后台运行的redis标准输出
是/dev/null。
logfile /var/log/redis/redis-server.log

#是否打开记录syslog功能
# syslog-enabled no
#syslog的标识符。
# syslog-ident redis

#日志的来源、设备
# syslog-facility local0

#数据库的数量，默认使用的数据库是DB 0。可以通过SELECT命令选择一个db
databases 16

# redis是基于内存的数据库，可以通过设置该值定期写入磁盘。
# 注释掉“save”这一行配置项就可以让保存数据库功能失效
# 900秒（15分钟）内至少1个key值改变（则进行数据库保存--持久化）
# 300秒（5分钟）内至少10个key值改变（则进行数据库保存--持久化）
# 60秒（1分钟）内至少10000个key值改变（则进行数据库保存--持久化）
save 900 1
save 300 10
save 60 10000

#当RDB持久化出现错误后，是否依然进行继续进行工作，yes：不能进行工作，no：可以继续进行工作，可以
通过info中的rdb_last_bgsave_status了解RDB持久化是否有错误
stop-writes-on-bgsave-error yes

#使用压缩rdb文件，rdb文件压缩使用LZF压缩算法，yes：压缩，但是需要一些cpu的消耗。no：不压缩，
需要更多的磁盘空间
rdbcompression yes

#是否校验rdb文件。从rdb格式的第五个版本开始，在rdb文件的末尾会带上CRC64的校验和。这跟有利于文
件的容错性，但是在保存rdb文件的时候，会有大概10%的性能损耗，所以如果你追求高性能，可以关闭该配
置。
rdbchecksum yes

#rdb文件的名称
dbfilename dump.rdb

#数据目录，数据库的写入会在这个目录。rdb、aof文件也会写在这个目录
dir /data

############### 主从复制 ###############

#复制选项，slave复制对应的master。
# slaveof <masterip> <masterport>

#如果master设置了requirepass，那么slave要连上master，需要有master的密码才行。masterauth
就是用来配置master的密码，这样可以在连上master后进行认证。
# masterauth <master-password>

#当从库同主机失去连接或者复制正在进行，从机库有两种运行方式：1) 如果slave-serve-stale-data
设置为yes(默认设置)，从库会继续响应客户端的请求。2) 如果slave-serve-stale-data设置为no，除
去INFO和SLAVOF命令之外的任何请求都会返回一个错误”SYNC with master in progress”。
slave-serve-stale-data yes

#作为从服务器，默认情况下是只读的（yes），可以修改成NO，用于写（不建议）。
slave-read-only yes

#是否使用socket方式复制数据。目前redis复制提供两种方式，disk和socket。如果新的slave连上来或
者重连的slave无法部分同步，就会执行全量同步，master会生成rdb文件。有2种方式：disk方式是
master创建一个新的进程把rdb文件保存到磁盘，再把磁盘上的rdb文件传递给slave。socket是master
创建一个新的进程，直接把rdb文件以socket的方式发给slave。disk方式的时候，当一个rdb保存的过程
中，多个slave都能共享这个rdb文件。socket的方式就的一个个slave顺序复制。在磁盘速度缓慢，网速快
的情况下推荐用socket方式。
repl-diskless-sync no

#diskless复制的延迟时间，防止设置为0。一旦复制开始，节点不会再接收新slave的复制请求直到下一个
rdb传输。所以最好等待一段时间，等更多的slave连上来。
repl-diskless-sync-delay 5

#slave根据指定的时间间隔向服务器发送ping请求。时间间隔可以通过 repl_ping_slave_period 来
设置，默认10秒。
# repl-ping-slave-period 10

#复制连接超时时间。master和slave都有超时时间的设置。master检测到slave上次发送的时间超过
repl-timeout，即认为slave离线，清除该slave信息。slave检测到上次和master交互的时间超过
repl-timeout，则认为master离线。需要注意的是repl-timeout需要设置一个比repl-ping-slaveperiod更大的值，不然会经常检测到超时。
# repl-timeout 60

#是否禁止复制tcp链接的tcp nodelay参数，可传递yes或者no。默认是no，即使用tcp nodelay。如果
master设置了yes来禁止tcp nodelay设置，在把数据复制给slave的时候，会减少包的数量和更小的网络
带宽。但是这也可能带来数据的延迟。默认我们推荐更小的延迟，但是在数据量传输很大的场景下，建议选择
yes。
repl-disable-tcp-nodelay no

#复制缓冲区大小，这是一个环形复制缓冲区，用来保存最新复制的命令。这样在slave离线的时候，不需要
完全复制master的数据，如果可以执行部分同步，只需要把缓冲区的部分数据复制给slave，就能恢复正常
复制状态。缓冲区的大小越大，slave离线的时间可以更长，复制缓冲区只有在有slave连接的时候才分配内
存。没有slave的一段时间，内存会被释放出来，默认1m。
# repl-backlog-size 5mb

#master没有slave一段时间会释放复制缓冲区的内存，repl-backlog-ttl用来设置该时间长度。单位为
秒。
# repl-backlog-ttl 3600

#当master不可用，Sentinel会根据slave的优先级选举一个master。最低的优先级的slave，当选
master。而配置成0，永远不会被选举。
slave-priority 100

#redis提供了可以让master停止写入的方式，如果配置了min-slaves-to-write，健康的slave的个数
小于N，mater就禁止写入。master最少得有多少个健康的slave存活才能执行写命令。这个配置虽然不能保
证N个slave都一定能接收到master的写操作，但是能避免没有足够健康的slave的时候，master不能写入
来避免数据丢失。设置为0是关闭该功能。
# min-slaves-to-write 3

#延迟小于min-slaves-max-lag秒的slave才认为是健康的slave。
# min-slaves-max-lag 10

# 设置1或另一个设置为0禁用这个特性。
# Setting one or the other to 0 disables the feature.
# By default min-slaves-to-write is set to 0 (feature disabled) and
# min-slaves-max-lag is set to 10.

############### 安全相关 ###############
#requirepass配置可以让用户使用AUTH命令来认证密码，才能使用其他命令。这让redis可以使用在不受
信任的网络中。为了保持向后的兼容性，可以注释该命令，因为大部分用户也不需要认证。使用
requirepass的时候需要注意，因为redis太快了，每秒可以认证15w次密码，简单的密码很容易被攻破，所
以最好使用一个更复杂的密码。注意只有密码没有用户名。
# requirepass foobared

#把危险的命令给修改成其他名称。比如CONFIG命令可以重命名为一个很难被猜到的命令，这样用户不能使
用，而内部工具还能接着使用。
# rename-command CONFIG b840fc02d524045429941cc15f59e41cb7be6c52

#设置成一个空的值，可以禁止一个命令
# rename-command CONFIG ""

############### 进程限制相关 ###############

# 设置能连上redis的最大客户端连接数量。默认是10000个客户端连接。由于redis不区分连接是客户端连
接还是内部打开文件或者和slave连接等，所以maxclients最小建议设置到32。如果超过了maxclients，
redis会给新的连接发送’max number of clients reached’，并关闭连接。
# maxclients 10000

#redis配置的最大内存容量。当内存满了，需要配合maxmemory-policy策略进行处理。注意slave的输出
缓冲区是不计算在maxmemory内的。所以为了防止主机内存使用完，建议设置的maxmemory需要更小一些。
# maxmemory <bytes>

#内存容量超过maxmemory后的处理策略。
#volatile-lru：利用LRU算法移除设置过过期时间的key。
#volatile-random：随机移除设置过过期时间的key。
#volatile-ttl：移除即将过期的key，根据最近过期时间来删除（辅以TTL）
#allkeys-lru：利用LRU算法移除任何key。
#allkeys-random：随机移除任何key。
#noeviction：不移除任何key，只是返回一个写错误。
#上面的这些驱逐策略，如果redis没有合适的key驱逐，对于写命令，还是会返回错误。redis将不再接收写
请求，只接收get请求。写命令包括：set setnx setex append incr decr rpush lpush rpushx
lpushx linsert lset rpoplpush sadd sinter sinterstore sunion sunionstore sdiff
sdiffstore zadd zincrby zunionstore zinterstore hset hsetnx hmset hincrby incrby
decrby getset mset msetnx exec sort。
# maxmemory-policy noeviction

#lru检测的样本数。使用lru或者ttl淘汰算法，从需要淘汰的列表中随机选择sample个key，选出闲置时间
最长的key移除。
# maxmemory-samples 5

############### APPEND ONLY 持久化方式 ###############

#默认redis使用的是rdb方式持久化，这种方式在许多应用中已经足够用了。但是redis如果中途宕机，会导
致可能有几分钟的数据丢失，根据save来策略进行持久化，Append Only File是另一种持久化方式，可以
提供更好的持久化特性。Redis会把每次写入的数据在接收后都写入 appendonly.aof 文件，每次启动时
Redis都会先把这个文件的数据读入内存里，先忽略RDB文件。
appendonly no

#aof文件名
appendfilename "appendonly.aof"

#aof持久化策略的配置
#no表示不执行fsync，由操作系统保证数据同步到磁盘，速度最快。
#always表示每次写入都执行fsync，以保证数据同步到磁盘。
#everysec表示每秒执行一次fsync，可能会导致丢失这1s数据。
appendfsync everysec

# 在aof重写或者写入rdb文件的时候，会执行大量IO，此时对于everysec和always的aof模式来说，执行
fsync会造成阻塞过长时间，no-appendfsync-on-rewrite字段设置为默认设置为no，是最安全的方式，
不会丢失数据，但是要忍受阻塞的问题。如果对延迟要求很高的应用，这个字段可以设置为yes，，设置为
yes表示rewrite期间对新写操作不fsync,暂时存在内存中,不会造成阻塞的问题（因为没有磁盘竞争），等
rewrite完成后再写入，这个时候redis会丢失数据。Linux的默认fsync策略是30秒。可能丢失30秒数
据。因此，如果应用系统无法忍受延迟，而可以容忍少量的数据丢失，则设置为yes。如果应用系统无法忍受
数据丢失，则设置为no。
no-appendfsync-on-rewrite no

#aof自动重写配置。当目前aof文件大小超过上一次重写的aof文件大小的百分之多少进行重写，即当aof文
件增长到一定大小的时候Redis能够调用bgrewriteaof对日志文件进行重写。当前AOF文件大小是上次日志
重写得到AOF文件大小的二倍（设置为100）时，自动启动新的日志重写过程。
auto-aof-rewrite-percentage 100
#设置允许重写的最小aof文件大小，避免了达到约定百分比但尺寸仍然很小的情况还要重写
auto-aof-rewrite-min-size 64mb
#aof文件可能在尾部是不完整的，当redis启动的时候，aof文件的数据被载入内存。重启可能发生在redis
所在的主机操作系统宕机后，尤其在ext4文件系统没有加上data=ordered选项（redis宕机或者异常终止
不会造成尾部不完整现象。）出现这种现象，可以选择让redis退出，或者导入尽可能多的数据。如果选择的
是yes，当截断的aof文件被导入的时候，会自动发布一个log给客户端然后load。如果是no，用户必须手动
redis-check-aof修复AOF文件才可以。
aof-load-truncated yes

############### LUA SCRIPTING ###############

# 如果达到最大时间限制（毫秒），redis会记个log，然后返回error。当一个脚本超过了最大时限。只有
SCRIPT KILL和SHUTDOWN NOSAVE可以用。第一个可以杀没有调write命令的东西。要是已经调用了
write，只能用第二个命令杀。
lua-time-limit 5000

############### 集群相关 ###############

#集群开关，默认是不开启集群模式。
# cluster-enabled yes

#集群配置文件的名称，每个节点都有一个集群相关的配置文件，持久化保存集群的信息。这个文件并不需要
手动配置，这个配置文件有Redis生成并更新，每个Redis集群节点需要一个单独的配置文件，请确保与实例
运行的系统中配置文件名称不冲突
# cluster-config-file nodes-6379.conf

#节点互连超时的阀值。集群节点超时毫秒数
# cluster-node-timeout 15000

#在进行故障转移的时候，全部slave都会请求申请为master，但是有些slave可能与master断开连接一段
时间了，导致数据过于陈旧，这样的slave不应该被提升为master。该参数就是用来判断slave节点与
master断线的时间是否过长。判断方法是：
#比较slave断开连接的时间和(node-timeout * slave-validity-factor) + repl-ping-slaveperiod
#如果节点超时时间为三十秒, 并且slave-validity-factor为10,假设默认的repl-ping-slaveperiod是10秒，即如果超过310秒slave将不会尝试进行故障转移
# cluster-slave-validity-factor 10

#master的slave数量大于该值，slave才能迁移到其他孤立master上，如这个参数若被设为2，那么只有当
一个主节点拥有2 个可工作的从节点时，它的一个从节点会尝试迁移。
# cluster-migration-barrier 1

#默认情况下，集群全部的slot有节点负责，集群状态才为ok，才能提供服务。设置为no，可以在slot没有
全部分配的时候提供服务。不建议打开该配置。
# cluster-require-full-coverage yes

############### SLOW LOG 慢查询日志 ###############

###slog log是用来记录redis运行中执行比较慢的命令耗时。当命令的执行超过了指定时间，就记录在
slow log中，slog log保存在内存中，所以没有IO操作。
#执行时间比slowlog-log-slower-than大的请求记录到slowlog里面，单位是微秒，所以1000000就是
1秒。注意，负数时间会禁用慢查询日志，而0则会强制记录所有命令。
slowlog-log-slower-than 10000

#慢查询日志长度。当一个新的命令被写进日志的时候，最老的那个记录会被删掉。这个长度没有限制。只要
有足够的内存就行。你可以通过 SLOWLOG RESET 来释放内存。
slowlog-max-len 128

############### 延迟监控 ###############

#延迟监控功能是用来监控redis中执行比较缓慢的一些操作，用LATENCY打印redis实例在跑命令时的耗时
图表。只记录大于等于下边设置的值的操作。0的话，就是关闭监视。默认延迟监控功能是关闭的，如果你需
要打开，也可以通过CONFIG SET命令动态设置。
latency-monitor-threshold 0

############### EVENT NOTIFICATION 订阅通知 ###############

#键空间通知使得客户端可以通过订阅频道或模式，来接收那些以某种方式改动了 Redis 数据集的事件。因
为开启键空间通知功能需要消耗一些 CPU ，所以在默认配置下，该功能处于关闭状态。
#notify-keyspace-events 的参数可以是以下字符的任意组合，它指定了服务器该发送哪些类型的通
知：
##K 键空间通知，所有通知以 __keyspace@__ 为前缀
##E 键事件通知，所有通知以 __keyevent@__ 为前缀
##g DEL 、 EXPIRE 、 RENAME 等类型无关的通用命令的通知
##$ 字符串命令的通知
##l 列表命令的通知
##s 集合命令的通知
##h 哈希命令的通知
##z 有序集合命令的通知
##x 过期事件：每当有过期键被删除时发送
##e 驱逐(evict)事件：每当有键因为 maxmemory 政策而被删除时发送
##A 参数 g$lshzxe 的别名
#输入的参数中至少要有一个 K 或者 E，否则的话，不管其余的参数是什么，都不会有任何 通知被分发。详
细使用可以参考http://redis.io/topics/notifications

notify-keyspace-events ""

############### ADVANCED CONFIG 高级配置 ###############
#数据量小于等于hash-max-ziplist-entries的用ziplist，大于hash-max-ziplist-entries用
hash
hash-max-ziplist-entries 512
#value大小小于等于hash-max-ziplist-value的用ziplist，大于hash-max-ziplist-value用
hash。
hash-max-ziplist-value 64

#数据量小于等于list-max-ziplist-entries用ziplist，大于list-max-ziplist-entries用
list。
list-max-ziplist-entries 512
#value大小小于等于list-max-ziplist-value的用ziplist，大于list-max-ziplist-value用
list。
list-max-ziplist-value 64

#数据量小于等于set-max-intset-entries用iniset，大于set-max-intset-entries用set。
set-max-intset-entries 512

#数据量小于等于zset-max-ziplist-entries用ziplist，大于zset-max-ziplist-entries用
zset。
zset-max-ziplist-entries 128
#value大小小于等于zset-max-ziplist-value用ziplist，大于zset-max-ziplist-value用
zset。
zset-max-ziplist-value 64

#value大小小于等于hll-sparse-max-bytes使用稀疏数据结构（sparse），大于hll-sparse-maxbytes使用稠密的数据结构（dense）。一个比16000大的value是几乎没用的，建议的value大概为
3000。如果对CPU要求不高，对空间要求较高的，建议设置到10000左右。
hll-sparse-max-bytes 3000

#Redis将在每100毫秒时使用1毫秒的CPU时间来对redis的hash表进行重新hash，可以降低内存的使用。
当你的使用场景中，有非常严格的实时性需要，不能够接受Redis时不时的对请求有2毫秒的延迟的话，把这
项配置为no。如果没有这么严格的实时性要求，可以设置为yes，以便能够尽可能快的释放内存。
activerehashing yes

##对客户端输出缓冲进行限制可以强迫那些不从服务器读取数据的客户端断开连接，用来强制关闭传输缓慢的
客户端。
#对于normal client，第一个0表示取消hard limit，第二个0和第三个0表示取消soft limit，
normal client默认取消限制，因为如果没有寻问，他们是不会接收数据的。
client-output-buffer-limit normal 0 0 0
#对于slave client和MONITER client，如果client-output-buffer一旦超过256mb，又或者超过
64mb持续60秒，那么服务器就会立即断开客户端连接。
client-output-buffer-limit slave 256mb 64mb 60
#对于pubsub client，如果client-output-buffer一旦超过32mb，又或者超过8mb持续60秒，那么服
务器就会立即断开客户端连接。
client-output-buffer-limit pubsub 32mb 8mb 60
#redis执行任务的频率为1s除以hz。
hz 10

#在aof重写的时候，如果打开了aof-rewrite-incremental-fsync开关，系统会每32MB执行一次
fsync。这对于把文件写入磁盘是有帮助的，可以避免过大的延迟峰值。
aof-rewrite-incremental-fsync yes

七、redis持久化

Redis 是内存数据库，如果不将内存中的数据库状态保存到磁盘，那么一旦服务器进程退出，服务器中 的数据库状态也会消失。所以 Redis 提供了持久化功能！

持久化过程保存什么

1.将当前数据状态进行保存，快照形式，存储数据结果，存储格式简单，关注点在数据 （RDB） 2.将数据的操作过程进行保存,日志形式，存储操作过程，关注点在数据的操作过程（AOF）

7.1RDB方式

概念: 在指定的时间间隔内将内存中的数据集快照写入磁盘， 也就是行话讲的Snapshot快照，它恢复时是将 快照文件直接读到内存里

save指令相关配置：

dbfilename dump.rdb

说明：设置本地数据库文件名，默认值为 dump.rdb

经验：通常设置为 dump-端口号.rdb

dir 说明：设置存储.rdb文件的路径

经验：通常设置成存储空间较大的目录中，目录名称data

rdbcompression yes

说明：设置存储至本地数据库时是否压缩数据，默认为 yes，采用 LZF算法 压缩 经验：通常默认为开启状态，如果设置为no，可以节省 CPU 运行时间，但会使存储的文件变大（巨 大）

rdbchecksum yes

说明：设置是否进行CRC64算法RDB文件格式校验， 该校验过程在写文件和读文件过程均进行 经验：通常默认为开启状态，如果设置为no，可以节约读写性过程约10%时间消耗，但是存储一定的数 据损坏风险

• 手动执行save命令，同步操作，会阻塞其他操作命令执行（不推荐）
• 手动执行bgsave命令，会fork一个子进程，在子进程中完成数据持久化动作，不会阻塞其他操作命令（非自动化）
• 通过配置，自动完成rdb持久化，底层是bgsave操作（建议方案）

RDB优点 ：

        RDB是一个紧凑压缩的二进制文件，存储效率较高

        RDB内部存储的是redis在某个时间点的数据快照，非常适合用于数据备份，全量复制等场景

        RDB恢复数据的速度要比AOF快很多

        RDB节省磁盘空间

RDB缺点：

Fork的时候，内存中的数据被克隆了一份，大致2倍的膨胀性需要考虑

虽然Redis在fork时使用了写时拷贝技术,但是如果数据庞大时还是比较消耗性能

RDB方式无论是执行指令还是利用配置，无法做到实时持久化，具有较大的可能性丢失数据 Redis的众多版本中未进行RDB文件格式的版本统一，有可能出现各版本服务之间数据格式无法兼容现象

7.2AOF方式

在AOF模式下，Redis会将所有的写操作以追加的方式写入一个文件中，文件中包含了完整的操作日志，因此可以通过将这个文件重播来还原数据。AOF文件是一个只会增长的文件，不会对文件进行修改和删除操作，因此写操作的性能相对较好。

AOF持久化模式有三种选择：

1. always：每个写操作都会立即追加到AOF文件中，在数据完全一致性和可靠性方面效果最好，但对性能有一定的影响。

2. everysec：每秒钟将写操作追加到AOF文件，可以通过配置文件指定是否同步到磁盘。是一种折中的选择，可以在保证一定程度的数据一致性的同时，减小对性能的影响。

3. no：不进行AOF持久化，只依靠内存中的数据来保持数据的持久性。这种模式下，如果Redis意外宕机或重启，可能会丢失最近的写操作，但对于性能要求非常高的场景，可以选择这种模式。

AOF持久化模式可以通过配置文件中的"appendonly"参数进行设置。

AOP相关配置：

1. `appendonly`：用于启用或禁用AOF持久化，默认为"no"。设置为"yes"表示启用AOF持久化，设置为"no"表示禁用。

2. `appendfilename`：指定AOF文件的名称，默认为"appendonly.aof"。可以自定义AOF文件的名称。

3. `appendfsync`：指定何时将写操作同步到磁盘，默认为"everysec"。可以设置为以下三个选项之一：
   - "always"：每个写操作都立即同步到磁盘，最安全但性能较差。
   - "everysec"：每秒将写操作同步到磁盘一次，折中的选择。
   - "no"：将写操作缓存在操作系统的缓冲区中，由操作系统控制同步，性能最好但可靠性较差。

4. `no-appendfsync-on-rewrite`：当进行AOF重写时，是否禁用AOF文件同步到磁盘的操作，默认为"no"。设置为"yes"表示禁用同步操作，提高重写的性能，但也可能导致AOF文件同步不及时。

5. `auto-aof-rewrite-percentage`：指定自动触发AOF重写的条件，以当前AOF文件大小与上次重写后的文件大小的比例来计算，默认为"100"。当AOF文件的大小达到上次重写后大小的指定比例时，触发自动执行AOF重写。

6. `auto-aof-rewrite-min-size`：指定AOF重写最小的文件大小，默认为"64mb"。如果AOF文件小于指定大小，则不会自动执行AOF重写。

这些配置选项可以通过修改Redis的配置文件(redis.conf)来进行设置，或者通过执行`CONFIG SET`命令来动态修改配置。修改配置后，需要重启Redis服务才能生效。

RDB和AOF的区别：

• AOF持久化基于日志，记录了每个写操作，因此数据更安全，但文件相对较大，恢复速度较快。
• RDB持久化基于快照，定期将数据保存到文件，因此文件较小，恢复速度较慢。
• 在选择持久化机制时，可以根据数据的重要性、恢复速度和存储空间等方面进行考虑，并可以采取AOF和RDB的混合使用。

八、redis的删除策略

8.1定时删除（拿时间换空间）

创建一个定时器，当key设置有过期时间，且过期时间到达时，由定时器立即执行对键的删除操作

优点：节约内存，到时间就删除，快速释放掉不必要的内存占用

缺点：CPU压力很大，会影响redis服务器响应时间和指令吞吐量

8.1惰性删除（拿空间换时间）

数据到达过期时间，不做处理，等下次访问该数据时

• 如果未过期，返回数据
• 发现已过期，删除，返回不存在。

优点：节约CPU性能，发现必须删除时才删除

点：内存压力大，出现长期占用内存的数据

8.3定期删除

1） Redis 启动服务器初始化时，读取配置 server.hz 的值，默认为10。
2）每秒钟执行 server.hz 次 serverCron() --> databasesCron()–> activeExpireCycle()。
3）activeExpireCycle() 对每个 expires[] 逐一进行检测，每次执行 250ms/server.hz。
4）对某个 expires[] 检测时，随机挑选 W 个 key 检测。

    如果 key 超时，删除 key。
    如果一轮中删除的 key 的数量>W*25%，循环该过程。
    如果一轮中删除的 key 的数量≤W25%，检查下一个 expires[]，0-15 循环。
    W取值=ACTIVE_EXPIRE_CYCLE_LOOKUPS_PER_LOOP 属性值。

5）参数 current_db 用于记录 activeExpireCycle() 进入哪个 expires[*] 执行。
6）如果 activeExpireCycle() 执行时间到期，下次从 current_db 继续向下执行。

定期删除:

周期性轮询redis库中的时效性数据，采用随机抽取的策略，利用过期数据占比的方式控制删 除频度

优点1：CPU性能占用设置有峰值，检测频度可自定义设置

优点2：内存压力不是很大，长期占用内存的冷数据会被持续清理

总结：周期性抽查存储空间 （随机抽查，重点抽查）

逐出策略

当新数据进入redis时，如果内存不足怎么办？

• Redis使用内存存储数据，在执行每一个命令前，会调用freeMemoryIfNeeded()检测内存是否充 足。如果内存不满足新加入数据的最低存储要求，redis要临时删除一些数据为当前指令清理存储 空间。清理数据的策略称为逐出算法。
• 注意：逐出数据的过程不是100%能够清理出足够的可使用的内存空间，如果不成功则反复执行。 当对所有数据尝试完毕后，如果不能达到内存清理的要求，将出现错误信息。

抛出异常：(error) OOM command not allowed when used memory >'maxmemory'

影响数据逐出的相关配置：

• maxmemory最大可使用内存 占用物理内存的比例，默认值为0，表示不限制,生产环境中根据需求设定，通常设置在50%以上。
• maxmemory-samples每次选取待删除数据的个数 选取数据时并不会全库扫描，导致严重的性能消耗，降低读写性能。因此采用随机获取数据的方式 作为待检测删除数据
• maxmemory-policy删除策略

        检测易失数据（可能会过期的数据集server.db[i].expires ）

                ① volatile-lru：挑选最近最少使用的数据淘汰

                ② volatile-lfu：挑选最近使用次数最少的数据淘汰

                ③ volatile-ttl：挑选将要过期的数据淘汰

                ④ volatile-random：任意选择数据淘汰

                检测全库数据（所有数据集server.db[i].dict ）

                ⑤ allkeys-lru：挑选最近最少使用的数据淘汰

                ⑥ allkeys-lfu：挑选最近使用次数最少的数据淘汰

                ⑦ allkeys-random：任意选择数据淘汰

                放弃数据驱逐

                ⑧ no-enviction（驱逐）：禁止驱逐数据（redis4.0中默认策略），会引发错误OOM（Out Of Memory）达到最大内存后的，对被挑选出来的数据进行删除的策略

标签：存储,slave,Redis,redis,笔记,学习,key,数据
From： https://blog.csdn.net/weixin_58693169/article/details/142613140