首页 > 其他分享 >一文搞懂什么是缓存穿透、缓存击穿、缓存雪崩!

一文搞懂什么是缓存穿透、缓存击穿、缓存雪崩!

时间:2022-08-28 11:55:57浏览次数:61  
标签:缓存 请求 过期 数据库 Redis 雪崩 搞懂 数据

什么是缓存穿透、缓存击穿、缓存雪崩?

面试的时候关于Redis问得最多的问题,可能就是:请你简单说说什么是缓存穿透、缓存击穿、缓存雪崩?由于这三种说法的名字很相近,很多同学经常容易搞混,有时候刚刚记住,过一段时间又区分不开了。所以我打算写一篇文章,全面细致的概括下有关缓存穿透、缓存击穿、缓存雪崩的问题,希望能帮助大家在迷惑的时候回来翻翻这篇文章,就能想起来这块的知识点,让大家轻松应对面试问题~

正文开始~

用户的数据一般都是存储在数据库中,目前大多数厂商用的数据库都是MySQL数据库,数据库的数据是存储在磁盘上的,我们都知道,磁盘的读写速度是计算机里最慢的硬件了。当用户请求数据时,请求打到数据库上,一旦请求数量过大,数据库就很容易崩溃,因此为了避免用户频繁访问数据库,会用Redis作为缓存层。

Redis是一个内存数据库,我们可以将数据库的数据缓存在Redis里,相当于数据缓存在内存,内存的读写速度比硬盘快好几个数量级,这样大大提高了系统性能。

下图展现了用户从缓存中读取数据的过程:

 

当在应用层和数据库层中间引入了缓存层后,就容易出现缓存雪崩、缓存击穿、缓存穿透三个问题。我们需要知道这三个问题是怎么产生的,还要知道如何应对他们。

缓存雪崩

通常为了保证缓存中的数据和数据库中的数据一致性,会给Redis里的数据设置过期时间,当缓存数据过期后,用户访问的数据如果不在缓存里,业务系统需要重新生成缓存,因此就会访问数据库,并将数据更新到Redis里,这样后续请求都可以直接命中缓存。

用户请求数据正常的流程是:用户从缓存中读取数据,如果缓存中没有,就去请求数据库。

现在假设缓存中大量数据同时失效(同一时间过期),或者Redis故障宕机,如果此时有大量的用户请求,都无法在 Redis 中处理,于是全部请求都直接访问数据库,从而导致数据库的压力骤增,严重的会造成数据库宕机,从而形成一系列连锁反应,造成整个系统崩溃,这就是缓存雪崩的问题。

 

 

 总结一下:

缓存雪崩的定义:缓存中大量数据在同一时间过期,或者Redis故障宕机,导致大量的用户请求直接打到数据库中,从而导致数据库宕机,最后系统崩溃的现象。

出现缓存雪崩的原因

  1. 大量缓存数据同一时间过期;
  2. Redis故障宕机。

针对不同的原因,应对的策略也不同。

大量缓存数据同一时间过期

针对大量缓存数据同一时间过期的问题,应对策略有以下几种:

1、避免缓存数据设置同一过期时间

如果要给缓存数据设置过期时间,应该避免将大量的数据设置成同一个过期时间。我们可以在对缓存数据设置过期时间时,给这些数据的过期时间加上一个随机数,这样就保证数据不会在同一时间过期。

2、当请求发现数据不在redis中,设置互斥锁,保证同一时间只有一个请求去构建缓存

当业务线程在处理用户请求时,如果发现访问的数据不在 Redis 里,就加个互斥锁,保证同一时间内只有一个请求来构建缓存(从数据库读取数据,再将数据更新到 Redis 里),当缓存构建完成后,再释放锁。未能获取互斥锁的请求,要么等待锁释放后重新读取缓存,要么就返回空值或者默认值。

实现互斥锁的时候,最好设置超时时间,不然第一个请求拿到了锁,然后这个请求发生了某种意外而一直阻塞,一直不释放锁,这时其他请求也一直拿不到锁,整个系统就会出现无响应的现象。

3、设置主key和备key

我们对缓存数据可以使用两个 key,一个是主 key,会设置过期时间,一个是备 key,不会设置过期,它们只是 key 不一样,但是 value 值是一样的,相当于给缓存数据做了个副本。

当业务线程访问不到「主 key 」的缓存数据时,就直接返回「备 key 」的缓存数据,然后在更新缓存的时候,同时更新「主 key 」和「备 key 」的数据。

4、设置缓存永不过期,让专门的后台线程定时更新缓存

业务线程不再负责更新缓存,缓存也不设置有效期,而是让缓存“永久有效”,并将更新缓存的工作交由后台线程定时更新。

事实上,缓存数据不设置有效期,并不是意味着数据一直能在内存里,因为当系统内存紧张的时候,有些缓存数据会被“淘汰”,而在缓存被“淘汰”到下一次后台定时更新缓存的这段时间内,业务线程读取缓存失败就返回空值,业务的视角就以为是数据丢失了。

解决上面的问题的方式有两种。

第一种方式,后台线程不仅负责定时更新缓存,而且也负责频繁地检测缓存是否有效,检测到缓存失效了,原因可能是系统紧张而被淘汰的,于是就要马上从数据库读取数据,并更新到缓存。

这种方式的检测时间间隔不能太长,太长也导致用户获取的数据是一个空值而不是真正的数据,所以检测的间隔最好是毫秒级的,但是总归是有个间隔时间,用户体验一般。

第二种方式,在业务线程发现缓存数据失效后(缓存数据被淘汰),通过消息队列发送一条消息通知后台线程更新缓存,后台线程收到消息后,在更新缓存前可以判断缓存是否存在,存在就不执行更新缓存操作;不存在就读取数据库数据,并将数据加载到缓存。这种方式相比第一种方式缓存的更新会更及时,用户体验也比较好。

在业务刚上线的时候,我们最好提前把数据缓起来,而不是等待用户访问才来触发缓存构建,这就是所谓的缓存预热,后台更新缓存的机制刚好也适合干这个事情。

Redis故障宕机

针对Redis故障宕机,导致大量请求直接打到数据库上,应对策略有:

1、服务熔断或请求限流机制

服务熔断机制:如果Redis宕机,则暂停业务应用对缓存服务的访问,直接返回错误,不在访问数据库,直到Redis恢复正常。

服务熔断机制是保护数据库的正常允许,但是暂停了业务应用访问缓存服系统,全部业务都无法正常工作;为了减少对业务的影响,我们可以启用请求限流机制。

请求限流机制:只将少部分请求发送到数据库处理,再多的请求就在入口直接拒绝服务,等到 Redis 恢复正常并把缓存预热完后,再解除请求限流的机制。

2、构建 Redis 缓存高可靠集群

服务熔断或请求限流机制是缓存雪崩发生后的应对方案,我们最好通过主从节点的方式构建 Redis 缓存高可靠集群。

如果 Redis 缓存的主节点故障宕机,从节点可以切换成为主节点,继续提供缓存服务,避免了由于 Redis 故障宕机而导致的缓存雪崩问题。

缓存击穿

我们的业务通常会有几个数据会被频繁地访问,比如秒杀活动,这类被频地访问的数据被称为热点数据

如果缓存中的某个热点数据过期了,此时大量的请求访问了该热点数据,就无法从缓存中读取,直接访问数据库,数据库很容易就被高并发的请求冲垮,这就是缓存击穿的问题。

缓存击穿:缓存中某个热点数据失效,导致大量访问该热点数据的请求直接打到数据库,造成数据库被高并发请求崩溃的现象。

应对缓存击穿可以采取前面说到两种方案:

互斥锁:保证同一时间只有一个业务线程更新缓存,未能获取互斥锁的请求,要么等待锁释放后重新读取缓存,要么就返回空值或者默认值。

专门线程更新缓存:不给热点数据设置过期时间,由后台异步更新缓存,或者在热点数据准备要过期前,提前通知后台线程更新缓存以及重新设置过期时间。

缓存穿透

当用户访问的数据,既不在缓存中,也不在数据库中,导致请求在访问缓存时,发现缓存缺失,再去访问数据库时,发现数据库中也没有要访问的数据,没办法构建缓存数据,来服务后续的请求。那么当有大量这样的请求到来时,数据库的压力骤增,这就是缓存穿透的问题。

缓存穿透的发生一般有这两种情况:

  • 业务误操作,缓存中的数据和数据库中的数据都被误删除了,所以导致缓存和数据库中都没有数据;
  • 黑客恶意攻击,故意大量访问某些读取不存在数据的业务;

应对缓存穿透的方案,常见的方案有三种。

1、非法请求的限制

当有大量恶意请求访问不存在的数据的时候,也会发生缓存穿透,因此在 API 入口处我们要判断求请求参数是否合理,请求参数是否含有非法值、请求字段是否存在,如果判断出是恶意请求就直接返回错误,避免进一步访问缓存和数据库。

2、缓存空值或者默认值

当我们线上业务发现缓存穿透的现象时,可以针对查询的数据,在缓存中设置一个空值或者默认值,这样后续请求就可以从缓存中读取到空值或者默认值,返回给应用,而不会继续查询数据库。

3、使用布隆过滤器快速判断数据是否存在,避免通过查询数据库来判断数据是否存在。

我们可以在写入数据库数据时,使用布隆过滤器做个标记,然后在用户请求到来时,业务线程确认缓存失效后,可以通过查询布隆过滤器快速判断数据是否存在,如果不存在,就不用通过查询数据库来判断数据是否存在。

即使发生了缓存穿透,大量请求只会查询 Redis 和布隆过滤器,而不会查询数据库,保证了数据库能正常运行,Redis 自身也是支持布隆过滤器的。

那问题来了,布隆过滤器是如何工作的呢?接下来,我介绍下。

布隆过滤器由「初始值都为 0 的位图数组」和「 N 个哈希函数」两部分组成。当我们在写入数据库数据时,在布隆过滤器里做个标记,这样下次查询数据是否在数据库时,只需要查询布隆过滤器,如果查询到数据没有被标记,说明不在数据库中。

布隆过滤器会通过 3 个操作完成标记:

第一步,使用 N 个哈希函数分别对数据做哈希计算,得到 N 个哈希值;
第二步,将第一步得到的 N 个哈希值对位图数组的长度取模,得到每个哈希值在位图数组的对应位置。
第三步,将每个哈希值在位图数组的对应位置的值设置为 1;
举个例子,假设有一个位图数组长度为 8,哈希函数 3 个的布隆过滤器。 

在数据库写入数据 x 后,把数据 x 标记在布隆过滤器时,数据 x 会被 3 个哈希函数分别计算出 3 个哈希值,然后在对这 3 个哈希值对 8 取模,假设取模的结果为 1、4、6,然后把位图数组的第 1、4、6 位置的值设置为 1。当应用要查询数据 x 是否在数据库时,通过布隆过滤器只要查到位图数组的第 1、4、6 位置的值是否全为 1,只要有一个为 0,就认为数据 x 不在数据库中。

布隆过滤器由于是基于哈希函数实现查找的,高效查找的同时存在哈希冲突的可能性,比如数据 x 和数据 y 可能都落在第 1、4、6 位置,而事实上,可能数据库中并不存在数据 y,存在误判的情况。

所以,查询布隆过滤器说数据存在,并不一定证明数据库中存在这个数据,但是查询到数据不存在,数据库中一定就不存在这个数据。(布隆过滤器:认为在不一定在,认为不在一定不在)

总结

  定义 原因 应对策略
缓存雪崩 大量请求的数据在缓存中失效而导致请求直接打到数据库,造成数据库崩溃的现象

1、大量缓存同时过期;

2、Redis故障宕机。

针对原因1:

1、均匀设置过期时间;

2、设置互斥锁保证同一时间很自由一个请求打到数据库;

3、双key策略;

4、设置专门线程定期更新缓存。

针对原因2:

1、服务熔断机制;

2、请求限流机制;

3、构建Redis高可用集群。

缓存击穿 某个热点数据在缓存中失效,大量请求直接打到数据库上,造成数据库崩溃的现象 ——

1、设置热点数据永不过期,专门线程定期更新

2、互斥锁机制

缓存穿透 请求的数据在缓存中找不到,数据库中也找不到

1、非法请求

2、业务误操作,将缓存和数据库中数据全部删除

1、业务层对请求校验,非法请求拦截

2、缓存空值或默认值

3、设置布隆过滤器做一层判断

 

————————————————————————————————————————————————————————————————————————————————————

参考文献

本文参考CSDN博主「小林coding」的原创文章
原文链接:https://blog.csdn.net/qq_34827674/article/details/123463175

标签:缓存,请求,过期,数据库,Redis,雪崩,搞懂,数据
From: https://www.cnblogs.com/wsxcode/p/16625556.html

相关文章

  • NC20185 [JSOI2010]缓存交换
    题目原题地址:[JSOI2010]缓存交换题目编号:NC20185题目类型:堆、贪心时间限制:C/C++1秒,其他语言2秒空间限制:C/C++262144K,其他语言524288K1.题目大意Cache容量以及......
  • Django入门到放弃之缓存及信号机制
    1.缓存介绍在动态网站中,用户所有的请求,服务器都会去数据库中进行相应的增,删,查,改,渲染模板,执行业务逻辑,最后生成用户看到的页面.当一个网站的用户访问量很大的时......
  • http缓存
    通常对静态的资源,内存缓存/磁盘缓存1、原理:在首次请求后,保存一份请求资源的响应副本,当用户再次发起相同请求后,如果判断缓存命中,则拦截请求,将之前存储的相应副本返回给......
  • 【Java面试】准备跳槽!那这期面试题必须要会,请描述一下Redis的缓存淘汰策略
    “请你描述一下Redis的缓存淘汰策略”你如果你正好遇到这个问题,想好怎么回答了吗?关于这个问题,我把高手的回答整理到了15W字的面试文档里面大家可以私信留言领取。下面......
  • 如何保证数据库和缓存双写一致性
     数据库和缓存(redis)双写一致性问题,不管你用何种语言,尤其是在高并发的场景下,这个问题会很容易被放大。无论是在工作中,还是在面试中遇到这种问题的概率都非常大,因......
  • Redis获取缓存异常:redis java.util.ArrayList cannot be cast to java.lang.String
    Redis获取缓存异常:redisjava.util.ArrayListcannotbecasttojava.lang.String在使用redis缓存数据时,增加一个配置类,修改key序列化器为string@Configurationpublic......
  • Spring Boot 2.x基础教程:进程内缓存的使用与Cache注解详解
    随着时间的积累,应用的使用用户不断增加,数据规模也越来越大,往往数据库查询操作会成为影响用户使用体验的瓶颈,此时使用缓存往往是解决这一问题非常好的手段之一。Spring3开......
  • Spring Boot 2.x基础教程:EhCache缓存的使用
    在SpringBoot中通过@EnableCaching注解自动化配置合适的缓存管理器(CacheManager),SpringBoot根据下面的顺序去侦测缓存提供者:GenericJCache(JSR-107)(EhCache3,Haze......
  • 解决Vuex刷新页面数据没缓存的问题
    监听页面是否刷新,如果页面刷新了,将state对象存入到sessionStroage中。页面打开之后,判断sessionStorage中是否存在state对象,如果存在,则说明页面是被刷新过,将sessionStor......
  • 综合案例-黑马旅游网_分类数据展示缓存优化
    综合案例-黑马旅游网_分类数据展示缓存优化分析发现,分类的数据在每一次页面加载后都会重写请求数据库来加载对数据库压力比较大而且分类的数据不会经常产生变化所有可......