首页 > 数据库 >关于Redis缓存原理详解

关于Redis缓存原理详解

时间:2024-03-20 09:01:53浏览次数:22  
标签:缓存 数据库 Redis 布隆 详解 key 过滤器

最近都没看Redis,现在回来温习下,现在从Redis的三大缓存开始重新探一探有多深有多浅(^▽^)

 

 

让我来开始知识的醍醐灌顶把!是时候表演真正的技术了。(哔哔哔哔….)

 

 

铁子们,看在这么卖力的份上,如果觉得本文对你有帮助的话,请动动你的小手,点个赞哟。
接下来就开始我们的Redis的三大缓存问题之旅,让我们坐上小飞船游一游这圣女峰。

 

 

在Redis缓存中有三个必须要知道概念:缓存穿透、缓存击穿和缓存雪崩。

缓存穿透


那什么是缓存穿透,它就是指当用户在查询一条数据的时候,而此时数据库和缓存却没有关于这条数据的任何记录,而这条数据在缓存中没找到就会向数据库请求获取数据。它拿不到数据时,是会一直查询数据库,这样会对数据库的访问造成很大的压力。

如:用户查询一个 id = -1 的商品信息,一般数据库 id 值都是从 1 开始自增,很明显这条信息是不在数据库中,当没有信息返回时,会一直向数据库查询,给当前数据库的造成很大的访问压力。这时候我们要想一想,该如何解决这个问题呢?o(╥﹏╥)o一般我们可以想到从缓存开始出发,想如果我们给缓存设置一个如果当前数据库不存在的信息,把它缓存成一个空对象,返回给用户。

^_^没错,这是一个解决方案,也就是我们常说的缓存空对象(代码维护简单,但是效果不是很好)。Redis 也为我们提供了一种解决方案,那就是布隆过滤器(代码维护比较复杂,效果挺好的)。

那接下来,先解释下这两种方案:

缓存空对象

那什么是缓存空对象呀!别急,缓存空对象它就是指一个请求发送过来,如果此时缓存中和数据库都不存在这个请求所要查询的相关信息,那么数据库就会返回一个空对象,并将这个空对象和请求关联起来存到缓存中,当下次还是这个请求过来的时候,这时缓存就会命中,就直接从缓存中返回这个空对象,这样可以减少访问数据库的压力,提高当前数据库的访问性能。

我们接下来可以看下面这个流程呀~

 

 

这时候,我们就会问了呀 ~,如果大量不存在的请求过来,那么这时候缓存岂不是会缓存许多空对象了吗~~~没错哦!这也是使用缓存空对象会导致的一个问题:如果时间一长这样会导致缓存中存在大量空对象,这样不仅会占用许多的内存空间,还会浪费许多资源呀!。

那这有没有什么可以解决的方法呢?我们来想一想:我们可以将这些对象在一段时间之后清理下不久可以了吗 ~嗯嗯,没错!在想想 Redis 里是不是给我们提供了有关过期时间的命令呀(^▽^),这样我们可以在设置空对象的时间,顺便设置一个过期时间,就可以解决个问题了呀!

setex key seconds valule:设置键值对的同时指定过期时间(s)

在Java 中直接调用 API 操作即可:

redisCache.put(Integer.toString(id), null, 60) //过期时间为 60s

布隆过滤器

那布隆过滤器是不是不是一个过滤器,过滤东西的呀!哎呀,你太聪明了,没错它就是用来过滤东西的,它是一种基于概率的数据结构,主要使用爱判断当前某个元素是否在该集合中,运行速度快。我们也可以简单理解为是一个不怎么精确的 set 结构(set 具有去重的效果)。

但是有个小问题是:当你使用它的 contains 方法去判断某个对象是否存在时,它可能会误判。也就是说布隆过滤器不是特别不精确,但是只要参数设置的合理,它的精确度可以控制的相对足够精确,只会有小小的误判概率(这是可以接受的呀 ~)。

当布隆过滤器说某个值存在时,这个值可能不存在;当它说不存在时,那就肯定不存在。

这里有个典型的例子呀,来自钱大:打个比方,当它说不认识你时,肯定就不认识;当它说见过你时,可能根本就没见过面,不过因为你的脸跟它认识的人中某脸比较相似 (某些熟脸的系数组合),所以误判以前见过你。在上面的使用场景中,布隆过滤器能准确过滤掉那些已经看过的内容,那些没有看过的新内容,它也会过滤掉极小一部分 (误判),但是绝大多数新内容它都能准确识别。这样就可以完全保证推荐给用户的内容都是无重复的。

说了这么久,那布隆过滤器到底有什么特点呢:特点吗,多多来让一个个跟你吹吹(吹到你怀疑人生(≧∇≦)ノ)

  1. 一个非常大的二进制位数组(数组中只存在 0 和 1)
  2. 拥有若干个哈希函数(Hash Function)
  3. 在空间效率和查询效率都非常高
  4. 布隆过滤器不会提供删除方法,在代码维护上比较困难。

每个布隆过滤器对应到 Redis 的数据结构里面就是一个大型的位数组和几个不一样的无偏 hash 函数。所谓无偏就是能够把元素的 hash 值算得比较均匀。

 

 

向布隆过滤器中添加 key 时,会使用多个 hash 函数对 key 进行 hash 算得一个整数索引值然后对位数组长度进行取模运算得到一个位置,每个 hash 函数都会算得一个不同的位置。再把位数组的这几个位置都置为 1 就完成了 add 操作。( 每一个 key 都通过若干的hash函数映射到一个巨大位数组上,映射成功后,会在把位数组上对应的位置改为1。)

那为什么布隆过滤器会存在误判率呢?误判吗?人生哪有不摔跤,只要锄头挥得好,照样能挖到。(咳咳咳,说偏了…)其实它会误判是如下这个情况:

 

 

当 key1 和 key2 映射到位数组上的位置为 1 时,假设这时候来了个 key3,要查询是不是在里面,恰好 key3 对应位置也映射到了这之间,那么布隆过滤器会认为它是存在的,这时候就会产生误判(因为明明 key3 是不在的)。

O(∩_∩)O哈哈~,这时候你会问了:如何提高布隆过滤器的准确率呢?

要提高布隆过滤器的准确率,就要说到影响它的三个重要因素:

  1. 哈希函数的好坏
  2. 存储空间大小
  3. 哈希函数个数

hash函数的设计也是一个十分重要的问题,对于好的hash函数能大大降低布隆过滤器的误判率。(这就好比优秀的配件之所以能够运行这么顺畅就在于其内部设计的得当。)同时,对于一个布隆过滤器来说,如果其位数组越大的话,那么每个key通过hash函数映射的位置会变得稀疏许多,不会那么紧凑,有利于提高布隆过滤器的准确率。同时,对于一个布隆过滤器来说,如果key通过许多hash函数映射,那么在位数组上就会有许多位置有标志,这样当用户查询的时候,在通过布隆过滤器来找的时候,误判率也会相应降低。

对于其内部原理,有兴趣的同学可以看看关于布隆过滤的数学知识,里面有关于它的设计算法和数学知识。(其实也挺简单~)

缓存击穿

缓存击穿是指有某个key经常被查询,经常被用户特殊关怀,用户非常 love 它 (^▽^),也就类比“熟客” 或者 一个key经常不被访问。但是这时候,如果这个key在缓存的过期时间失效的时候或者这是个冷门key时,这时候突然有大量有关这个key的访问请求,这样会导致大并发请求直接穿透缓存,请求数据库,瞬间对数据库的访问压力增大。

归纳起来:造成缓存击穿的原因有两个。

(1)一个“冷门”key,突然被大量用户请求访问。

(2)一个“热门”key,在缓存中时间恰好过期,这时有大量用户来进行访问。

 

 

对于缓存击穿的问题:我们常用的解决方案是加锁。对于key过期的时候,当key要查询数据库的时候加上一把锁,这时只能让第一个请求进行查询数据库,然后把从数据库中查询到的值存储到缓存中,对于剩下的相同的key,可以直接从缓存中获取即可。

如果我们是在单机环境下:直接使用常用的锁即可(如:Lock、Synchronized等),在分布式环境下我们可以使用分布式锁,如:基于数据库、基于Redis或者zookeeper 的分布式锁。

 

 

缓存雪崩

缓存雪崩是指在某一个时间段内,缓存集中过期失效,如果这个时间段内有大量请求,而查询数据量巨大,所有的请求都会达到存储层,存储层的调用量会暴增,引起数据库压力过大甚至宕机。原因:

  1. Redis突然宕机
  2. 大部分数据失效

举个例子理解下吧:

比如我们基本上都经历过购物狂欢节,假设商家举办 23:00-24:00 商品打骨折促销活动。程序小哥哥在设计的时候,在 23:00 把商家打骨折的商品放到缓存中,并通过redis的expire设置了过期时间为1小时。这个时间段许多用户访问这些商品信息、购买等等。但是刚好到了24:00点的时候,恰好还有许多用户在访问这些商品,这时候对这些商品的访问都会落到数据库上,导致数据库要抗住巨大的压力,稍有不慎会导致,数据库直接宕机(over)。

当商品没有失效的时候是这样的:

 

 

当缓存GG(失效)的时候却是这样的:

 

 

对于缓存雪崩有以下解决方案:

(1)redis高可用redis有可能挂掉,多增加几台redis实例,(一主多从或者多主多从),这样一台挂掉之后其他的还可以继续工作,其实就是搭建的集群。

(2)限流降级在缓存失效后,通过加锁或者队列来控制读数据库写缓存的线程数量,对某个key只允许一个线程查询数据和写缓存,其他线程等待。

(3)数据预热数据加热的含义就是在正式部署之前,我先把可能的数据先预先访问一遍,这样部分可能大量访问的数据就会加载到缓存中。在即将发生大并发访问前手动触发加载缓存不同的key。

(4)不同的过期时间设置不同的过期时间,让缓存失效的时间点尽量均匀。

标签:缓存,数据库,Redis,布隆,详解,key,过滤器
From: https://www.cnblogs.com/shujuyr/p/18084385

相关文章

  • Redis 主从复制的原理详解
    文章目录:1、复制过程2、数据间的同步3、全量复制4、部分复制5、心跳6、异步复制复制原理1.复制过程复制的过程步骤如下:1、从节点执行slaveof命令2、从节点只是保存了slaveof命令中主节点的信息,并没有立即发起复制3、从节点内部的定时任务发现有主节点的信息,开始使......
  • 详解Redis的持久化RDB和AOF
    Redis的持久化是将内存中的数据同步到硬盘的过程具体来说,Redis支持两种主要的持久化方式:RDB和AOF。RDB(RedisDatabase)简介默认持久化方式RDB会将内存中的数据快照保存到磁盘上的一个二进制文件中。这个文件包含了Redis在某个时间点上的所有数据,包括键值对及其过期时间等......
  • 项目当中 签到功能 +多级缓存+介绍一下点赞功能
    签到是怎么做的?刚开始想用数据库做来着,后来发现用数据库数据量太大,就找解决方案,想到了用bitMap位图。bitMap位图是什么 ?我们采用的是radis里的bitMap结构 他本质是字符串 最大512mb是使用01来存储的一种方式为什么?节省空间 我们采用的是一个人一个月的签到......
  • Redis 梳理
    基础知识NoSQLNoSQL(NotOnlySQL),泛指非关系型数据库。为了解决大规模数据几何多重数据种类带来的挑战,尤其是大数据应用,包括超大规模数据的存储。这些类型的数据存储不需要固定的模式,无需多余操作就可以横向发展。易扩展NoSQL数据库种类繁多,但是一个共同的特点都是去掉关......
  • 缓存穿透、缓存击穿、缓存雪崩
    缓存穿透缓存穿透指的是请求的数据在缓存中不存在,并且也不存在于数据库中,每次请求都落到了数据库上,导致数据库压力增大。举例:现在你有一家书店,书分别存放在书架(缓存)和仓库(数据库)中。一本书在书架上和仓库里都不存在,但是总是有人来找这本书,导致你每次都需要去仓库中寻找。......
  • dijkstra算法详解
    今天给大家讲解\(dijkstra\)图论最短路算法在讲解\(dijkstra\)算法之前,先来给大家讲解一下图论中的松弛操作。松弛,即\(relaxtion\),是一种编程学术语。举例说明,例如我们可以从某个机场坐飞机达到若干个机场,然后从这些机场出发,我们又需做火车前往若干个城镇。现在假设我们手里......
  • 瑞_Redis_短信登录
    文章目录项目介绍1短信登录1.1项目准备1.1.1导入SQL1.1.2导入后端项目1.1.3导入前端项目1.2基于Session实现登录流程1.2.1功能流程介绍1.2.1.1发送短信验证码1.2.1.2短信验证码登录、注册1.2.1.3校验登录状态1.2.2实现发送短信验证码功能1.2.2.1页面流程1.......
  • Go: 泛型及其应用详解
    在软件开发的世界里,泛型是一个强大的工具,它允许我们编写灵活且可重用的代码。对于我们这些追求成为软件架构师和系统架构师的开发者来说,深入理解并有效应用泛型是提升我们代码设计能力的关键一步。Go语言自1.18版本起正式引入了泛型功能,这一变化无疑给Go语言带来了更广阔的......
  • seq2seq项目详解
    一、seq2seq和encoder-decoder关系seq2seq是从解决问题的目的角度来说的,利用的框架是encoder-decoder 二、项目例子比如我们有两个文件letters_source.txt和letters_target.txt,他们行数一致,也就是我们的训练集合,他们每一行互应(这两个文件同一行彼此长度可以不一致:比如中......
  • Garnet: 力压Redis的C#高性能分布式存储数据库
    今天看到微软研究院开源了一个新的C#项目,叫Garnet,它实现了Redis协议,可以直接将Redis替换为Garnet,客户端不需要任何修改。根据其官网的信息,简单的介绍一下它。开源仓库地址:https://github.com/microsoft/garnet文档地址:https://microsoft.github.io/garnet/Garnet是微软研究院基......