redis 一般有用 看1

redis 和 memcached 什么区别？为什么高并发下有时单线程的 redis 比多线程的 memcached 效率要高？ 区别： 1.mc 可缓存图片和视频。rd 支持除 k/v 更多的数据结构; 2.rd 可以使用虚拟内存，rd 可持久化和 aof 灾难恢复，rd 通过主从支持数据备份; 3.rd 可以做消息队列。 原因：mc 多线程模型引入了缓存一致性和锁，加锁带来了性能损耗。 redis 主从复制如何实现的？redis 的集群模式如何实现？redis 的 key 是如何寻址的？ 主从复制实现：主节点将自己内存中的数据做一份快照，将快照发给从节点，从节点将数 据恢复到内存中。之后再每次增加新数据的时候，主节点以类似于 mysql 的二进制日志方 式将语句发送给从节点，从节点拿到主节点发送过来的语句进行重放。 分片方式： -客户端分片 -基于代理的分片 ● Twemproxy ● codis -路由查询分片 ● Redis-cluster（本身提供了自动将数据分散到 Redis Cluster 不同节点的能力，整个数据集 合的某个数据子集存储在哪个节点对于用户来说是透明的） redis-cluster 分片原理：Cluster 中有一个 16384 长度的槽(虚拟槽)，编号分别为 0-16383。 每个 Master 节点都会负责一部分的槽，当有某个 key 被映射到某个 Master 负责的槽，那 么这个 Master 负责为这个 key 提供服务，至于哪个 Master 节点负责哪个槽，可以由用户 指定，也可以在初始化的时候自动生成，只有 Master 才拥有槽的所有权。Master 节点维 护着一个 16384/8 字节的位序列，Master 节点用 bit 来标识对于某个槽自己是否拥有。比 如对于编号为 1 的槽，Master 只要判断序列的第二位（索引从 0 开始）是不是为 1 即可。 这种结构很容易添加或者删除节点。比如如果我想新添加个节点 D, 我需要从节点 A、B、 C 中得部分槽到 D 上。 使用 redis 如何设计分布式锁？说一下实现思路？使用 zk 可以吗？如何实现？这两种有什 么区别？ redis: 1.线程 A setnx(上锁的对象,超时时的时间戳 t1)，如果返回 true，获得锁。 2.线程 B 用 get 获取 t1,与当前时间戳比较,判断是是否超时,没超时 false,若超时执行第 3 步; 3.计算新的超时时间 t2,使用 getset 命令返回 t3(该值可能其他线程已经修改过),如果 t1==t3，获得锁，如果 t1!=t3 说明锁被其他线程获取了。 4.获取锁后，处理完业务逻辑，再去判断锁是否超时，如果没超时删除锁，如果已超时， 不用处理（防止删除其他线程的锁）。 zk: 1.客户端对某个方法加锁时，在 zk 上的与该方法对应的指定节点的目录下，生成一个唯一 的瞬时有序节点 node1; 2.客户端获取该路径下所有已经创建的子节点，如果发现自己创建的 node1 的序号是最小 的，就认为这个客户端获得了锁。 3.如果发现 node1 不是最小的，则监听比自己创建节点序号小的最大的节点，进入等待。4.获取锁后，处理完逻辑，删除自己创建的 node1 即可。 区别:zk 性能差一些，开销大，实现简单。 知道 redis 的持久化吗？底层如何实现的？有什么优点缺点？ RDB(Redis DataBase:在不同的时间点将 redis 的数据生成的快照同步到磁盘等介质上):内存 到硬盘的快照，定期更新。缺点：耗时，耗性能(fork+io 操作)，易丢失数据。 AOF(Append Only File：将 redis 所执行过的所有指令都记录下来，在下次 redis 重启时，只 需要执行指令就可以了):写日志。缺点：体积大，恢复速度慢。 bgsave 做镜像全量持久化，aof 做增量持久化。因为 bgsave 会消耗比较长的时间，不够实 时，在停机的时候会导致大量的数据丢失，需要 aof 来配合，在 redis 实例重启时，优先使 用 aof 来恢复内存的状态，如果没有 aof 日志，就会使用 rdb 文件来恢复。Redis 会定期做 aof 重写，压缩 aof 文件日志大小。Redis4.0 之后有了混合持久化的功能，将 bgsave 的全量 和 aof 的增量做了融合处理，这样既保证了恢复的效率又兼顾了数据的安全性。bgsave 的 原理，fork 和 cow, fork 是指 redis 通过创建子进程来进行 bgsave 操作，cow 指的是 copy on write，子进程创建后，父子进程共享数据段，父进程继续提供读写服务，写脏的页面数据 会逐渐和子进程分离开来。 redis 过期策略都有哪些？LRU 算法知道吗？写一下 java 代码实现？ 过期策略: 定时过期(一 key 一定时器)，惰性过期：只有使用 key 时才判断 key 是否已过期，过期则清 除。定期过期：前两者折中。 LRU:new LinkedHashMap<K, V>(capacity, DEFAULT_LOAD_FACTORY, true); //第三个参数置为 true，代表 linkedlist 按访问顺序排序，可作为 LRU 缓存；设为 false 代表 按插入顺序排序，可作为 FIFO 缓存 LRU 算法实现：1.通过双向链表来实现，新数据插入到链表头部；2.每当缓存命中（即缓存 数据被访问），则将数据移到链表头部；3.当链表满的时候，将链表尾部的数据丢弃。 LinkedHashMap：HashMap 和双向链表合二为一即是 LinkedHashMap。HashMap 是无序 的，LinkedHashMap 通过维护一个额外的双向链表保证了迭代顺序。该迭代顺序可以是插 入顺序（默认），也可以是访问顺序。 缓存穿透、缓存击穿、缓存雪崩解决方案？ 缓存穿透：指查询一个一定不存在的数据，如果从存储层查不到数据则不写入缓存，这将 导致这个不存在的数据每次请求都要到 DB 去查询，可能导致 DB 挂掉。 解决方案：1.查询返回的数据为空，仍把这个空结果进行缓存，但过期时间会比较短；2.布 隆过滤器：将所有可能存在的数据哈希到一个足够大的 bitmap 中，一个一定不存在的数据 会被这个 bitmap 拦截掉，从而避免了对 DB 的查询。 缓存击穿：对于设置了过期时间的 key，缓存在某个时间点过期的时候，恰好这时间点对 这个 Key 有大量的并发请求过来，这些请求发现缓存过期一般都会从后端 DB 加载数据并 回设到缓存，这个时候大并发的请求可能会瞬间把 DB 压垮。解决方案：1.使用互斥锁：当缓存失效时，不立即去 load db，先使用如 Redis 的 setnx 去设 置一个互斥锁，当操作成功返回时再进行 load db 的操作并回设缓存，否则重试 get 缓存的 方法。2.永远不过期：物理不过期，但逻辑过期（后台异步线程去刷新）。 缓存雪崩：设置缓存时采用了相同的过期时间，导致缓存在某一时刻同时失效，请求全部 转发到 DB，DB 瞬时压力过重雪崩。与缓存击穿的区别：雪崩是很多 key，击穿是某一个 key 缓存。 解决方案：将缓存失效时间分散开，比如可以在原有的失效时间基础上增加一个随机值， 比如 1-5 分钟随机，这样每一个缓存的过期时间的重复率就会降低，就很难引发集体失效 的事件。 在选择缓存时，什么时候选择 redis，什么时候选择 memcached 选择 redis 的情况： 1、复杂数据结构，value 的数据是哈希，列表，集合，有序集合等这种情况下，会选择 redis, 因为 memcache 无法满足这些数据结构，最典型的的使用场景是，用户订单列表， 用户消息，帖子评论等。 2、需要进行数据的持久化功能，但是注意，不要把 redis 当成数据库使用，如果 redis 挂了，内存能够快速恢复热数据，不会将压力瞬间压在数据库上，没有 cache 预热的过 程。对于只读和数据一致性要求不高的场景可以采用持久化存储 3、高可用，redis 支持集群，可以实现主动复制，读写分离，而对于 memcache 如果想 要实现高可用，需要进行二次开发。 4、存储的内容比较大，memcache 存储的 value 最大为 1M。 选择 memcache 的场景： 1、纯 KV,数据量非常大的业务，使用 memcache 更合适，原因是， a)memcache 的内存分配采用的是预分配内存池的管理方式，能够省去内存分配的时 间，redis 是临时申请空间，可能导致碎片化。 b)虚拟内存使用，memcache 将所有的数据存储在物理内存里，redis 有自己的 vm 机 制，理论上能够存储比物理内存更多的数据，当数据超量时，引发 swap,把冷数据刷新到 磁盘上，从这点上，数据量大时，memcache 更快 c)网络模型，memcache 使用非阻塞的 IO 复用模型，redis 也是使用非阻塞的 IO 复用 模型，但是 redis 还提供了一些非 KV 存储之外的排序，聚合功能，复杂的 CPU 计算，会阻 塞整个 IO 调度，从这点上由于 redis 提供的功能较多，memcache 更快些 d) 线程模型，memcache 使用多线程，主线程监听，worker 子线程接受请求，执行 读写，这个过程可能存在锁冲突。redis 使用的单线程，虽然无锁冲突，但是难以利用多核的特性提升吞吐量。 缓存与数据库不一致怎么办 假设采用的主存分离，读写分离的数据库， 如果一个线程 A 先删除缓存数据，然后将数据写入到主库当中，这个时候，主库和从库同 步没有完成，线程 B 从缓存当中读取数据失败，从从库当中读取到旧数据，然后更新至缓 存，这个时候，缓存当中的就是旧的数据。 发生上述不一致的原因在于，主从库数据不一致问题，加入了缓存之后，主从不一致的时 间被拉长了 处理思路：在从库有数据更新之后，将缓存当中的数据也同时进行更新，即当从库发生了 数据更新之后，向缓存发出删除，淘汰这段时间写入的旧数据。 主从数据库不一致如何解决 场景描述，对于主从库，读写分离，如果主从库更新同步有时差，就会导致主从库数据的 不一致 1、忽略这个数据不一致，在数据一致性要求不高的业务下，未必需要时时一致性 2、强制读主库，使用一个高可用的主库，数据库读写都在主库，添加一个缓存，提升数据 读取的性能。 3、选择性读主库，添加一个缓存，用来记录必须读主库的数据，将哪个库，哪个表，哪个 主键，作为缓存的 key,设置缓存失效的时间为主从库同步的时间，如果缓存当中有这个数 据，直接读取主库，如果缓存当中没有这个主键，就到对应的从库中读取。 Redis 常见的性能问题和解决方案 1、master 最好不要做持久化工作，如 RDB 内存快照和 AOF 日志文件 2、如果数据比较重要，某个 slave 开启 AOF 备份，策略设置成每秒同步一次 3、为了主从复制的速度和连接的稳定性，master 和 Slave 最好在一个局域网内 4、尽量避免在压力大得主库上增加从库 5、主从复制不要采用网状结构，尽量是线性结构，Master<--Slave1<----Slave2 .... Redis 的数据淘汰策略有哪些voltile-lru 从已经设置过期时间的数据集中挑选最近最少使用的数据淘汰 voltile-ttl 从已经设置过期时间的数据库集当中挑选将要过期的数据 voltile-random 从已经设置过期时间的数据集任意选择淘汰数据 allkeys-lru 从数据集中挑选最近最少使用的数据淘汰 allkeys-random 从数据集中任意选择淘汰的数据 no-eviction 禁止驱逐数据 Redis 当中有哪些数据结构 字符串 String、字典 Hash、列表 List、集合 Set、有序集合 SortedSet。如果是高级用户，那 么还会有，如果你是 Redis 中高级用户，还需要加上下面几种数据结构 HyperLogLog、 Geo、Pub/Sub。 假如 Redis 里面有 1 亿个 key，其中有 10w 个 key 是以某个固定的已知的前缀开头的，如 果将它们全部找出来？ 使用 keys 指令可以扫出指定模式的 key 列表。 对方接着追问：如果这个 redis 正在给线上的业务提供服务，那使用 keys 指令会有什么问 题？ 这个时候你要回答 redis 关键的一个特性：redis 的单线程的。keys 指令会导致线程阻塞一 段时间，线上服务会停顿，直到指令执行完毕，服务才能恢复。这个时候可以使用 scan 指 令，scan 指令可以无阻塞的提取出指定模式的 key 列表，但是会有一定的重复概率，在客 户端做一次去重就可以了，但是整体所花费的时间会比直接用 keys 指令长。 使用 Redis 做过异步队列吗，是如何实现的 使用 list 类型保存数据信息，rpush 生产消息，lpop 消费消息，当 lpop 没有消息时，可 以 sleep 一段时间，然后再检查有没有信息，如果不想 sleep 的话，可以使用 blpop, 在没 有信息的时候，会一直阻塞，直到信息的到来。redis 可以通过 pub/sub 主题订阅模式实现 一个生产者，多个消费者，当然也存在一定的缺点，当消费者下线时，生产的消息会丢 失。 Redis 如何实现延时队列 使用 sortedset，使用时间戳做 score, 消息内容作为 key,调用 zadd 来生产消息，消费者 使用 zrangbyscore 获取 n 秒之前的数据做轮询处理。