首页 > 其他分享 >应用问题解决——缓存穿透、缓存击穿、缓存雪崩

应用问题解决——缓存穿透、缓存击穿、缓存雪崩

时间:2023-06-05 20:11:57浏览次数:37  
标签:缓存 过期 redis 击穿 访问 线程 雪崩 key

一、缓存穿透

缓存穿透:key对应的数据在数据源并不存在,每次针对key的请求从缓存中获取不到,请求都会压到数据源,从而可能压垮数据源,比如用一个不存在的用户id获取用户信息,不论缓存还是数据库都没有,若黑客利用此漏洞进行攻击可能压垮数据库

现象:

1、应用服务器压力变大

2、redis命中率低

3、一直查询数据库

原因:

1、redis查询不到数据库

2、出现很多非正常url访问

 

解决方案:

一个一定不存在于缓存及在数据库中也查询不到的数据,由于缓存是不命中时被动写的,并且出于容错考虑,如果从存储层查不到数据则不写入缓存,这将导致这个不存在的数据每次请求都要到存储层中去查询,失去了缓存的意义。

(1)对空值缓存:

如果一个查询返回的数据为空(不管数据是否存在),我们仍然把这个空结果null进行缓存,设置空结果的过期时间会很短,最长不超过5分钟

(2)设置可访问的名单(白名单)

使用bitmaps类型定义一个可以访问的名单,名单id作为bitmaps的偏移量,每次访问和bitmap中的id进行比较,如果访问id不在bitmaps里面,进行拦截,不允许访问。

(3)采用布隆过滤器:(布隆过滤器Bloom Filter)是1970年由布隆提出的,它实际上是一个很长的二进制向量(位图)和一系列随机映射函数(哈希函数)。布隆过滤器可以用于检索一个元素是否在一个集合中,它的优点是空间效率和查询时间都远超过一般的算法,缺点是有一定的误识别率和删除困难

(4)进行实时监控:当发现Redis的命中率开始极速降低,需要排查访问对象和访问的数据,和运维人员配合,可以设置黑名单限制服务。

 

二、缓存击穿

现象:

1、数据库访问压力瞬时增加

2、redis里面没有出现大量key过期

3、redis正常运行

原因:redis某个key过期了,大量访问使用这个key

解决方案:

缓存击穿是指一个 key 非常热点。在不停的扛着大并发,大并发集中对这一个点进行访问,当这个 key 在失效的瞬间,持续的大并发就穿破缓存,直接请求数据库,当发生缓存击穿的时候,数据库的查询压力会倍增,导致大量的请求阻塞。

key可能会在某些时间点被超高并发地访问,是一种非常“热点”的数据,这个时候需要考虑一个问题:缓存被“击穿”的问题

(1)预先设置热门数据:在redis高峰访问之前,把一些热门数据提前存入到redis里面,加大这个热门数据key的时长。如果数据需要更新的话,我们可以后台开启一个异步线程,发现过期的 key 直接重写缓存即可。当然,这种解决方案只适用于不要求数据严格一致性的情况,因为当后台线程在构建缓存的时候,其他的线程很有可能也在读取数据,这样就会访问到旧数据了。

(2)实时调整:现场监控哪些数据热门,实时调整key的过期时长

(3)使用锁 

互斥锁:当 key 失效的时候,让一个线程读取数据并构建到缓存中,其他线程就先等待,直到缓存构建完后重新读取缓存即可。

    1、在缓存失效的时候(判断拿出来的值为空),不是立即去load db

    2、先使用缓存工具的某些带成功操作返回值的操作(比如Redis的SETNX)去set一个mutex key

    3、当操作返回成功时,再进行load db的操作,并回设缓存,最后删除mutex key

    4、当操作返回失败时,证明有线程在load db,当前线程睡眠时间一段时间再重试整个get缓存方法。

 

三、缓存雪崩

现象:

数据库压力变大、服务器崩溃

原因:

在极少时间内,查询大量key的集中过期情况,跟缓存击穿不同的是,缓存击穿因为指一个热点 key 失效导致的情况,而缓存雪崩是指缓存中大批量的数据同时过期,巨大的请求量直接落到 db 层,引起 db 压力过大甚至宕机。

解决方案:

(1)构建多级缓存架构:nginx缓存 + redis缓存 + 其它缓存(ehcache等)

(2)使用锁或队列

  用加锁或者队列的方式保证不会有大量线程对数据库一次性进行读写,从而避免失效时大量的并发请求落到底层存储系统上。不适用高并发情况

(3)设置过期标志更新缓存

  记录缓存数据是否过期(设置提前量),如果过期会触发通知另外的线程在后台去更新实际key的缓存

(4)将缓存失效时间分散开

  比如我们可以在原有的失效时间基础上增加一个随机值,比如1-5分钟随机,这样每一个缓存的过期时间的重复率就会降低,就很难引发集体失效的事件。

标签:缓存,过期,redis,击穿,访问,线程,雪崩,key
From: https://www.cnblogs.com/fxzm/p/17458809.html

相关文章

  • Redis(四) -- 缓存
    缓存缓存更新方式这是决定在使用缓存时就该考虑的问题。设置缓存数据的TTL,当缓存数据失效后,如果有系统要请求,则会查询数据库并插入缓存(被动更新)不友好在各类会往mysql写入数据的系统中,植入更新缓存的逻辑(判断哪些表的数据是热点数据,那么就可以在这些表数据的更新操作逻辑中......
  • http协商缓存VS强缓存
      本文主要讲解浏览器端的缓存,缓存的作用是不言而喻的,能够极大的改善网页性能,提高用户体验。1、浏览器缓存缓存这东西,第一次必须获取到资源后,然后根据返回的信息来告诉如何缓存资源,可能采用的是强缓存,也可能告诉客户端浏览器是协商缓存,这都需要根据响应的header内容来决定的......
  • SpringBoot2 缓存之王caffeine
    <dependency><groupId>com.github.ben-manes.caffeine</groupId><artifactId>caffeine</artifactId><version>2.9.0</version></dependency>顺便写了个工具类配合SpringBoot使用:packag......
  • 缓存雪崩【Redis 缓存】
    缓存雪崩缓存雪崩是指在同一时段大量的缓存key同时失效或者Redis服务宕机,导致大量请求到达数据库,带来巨大压力。解决方案:给不同的Key的TTL添加随机值利用Redis集群提高服务的可用性给缓存业务添加降级限流策略给业务添加多级缓存 ......
  • 缓存穿透【Redis 缓存】
    缓存穿透缓存穿透是指客户端请求的数据在缓存中和数据库中都不存在,这样缓存永远不会失效,这些请求都会打到数据库。解决方案:1.缓存空对象优点:实现简单,维护方便缺点:额外的内存消耗可能造成短期的不一致 2.布隆过......
  • Spring Bean生命周期之三级缓存循环依赖
    目录1三级缓存1.1引言1.2三级缓存各个存放对象1.3解决循环依赖条件1.3.1解决循环依赖条件1.3.2Sprin中Bean的顺序1.3.3更改加载顺序1.3.3.1构造方法依赖(推荐)1.3.3.2参数注入1.3.3.3@DependsOn(“xxx”)1.3.3.4BeanDefinitionRegistryPostProcessor接口1.3.4执行顺......
  • Android网络图片三级缓存策略
    在移动应用中,我们一般将网络图片分为三个级别,第一级别是网络层,即根据图片的url地址可以找到服务器上相应图片,获取这一层的图片会消耗流量,所以我们希望可以获取后本地就永久使用,所以就会有接下来的缓存策略;第二层缓存是在手机内存层,是将第一层的图片下载到手机内存,这种缓存读取速度......
  • oscache缓存技术
    oscache缓存技术:[url]http://j2eemylove.iteye.com/blog/939828[/url][b]1、OSCache是什么?[/b]OSCache标记库由OpenSymphony设计,它是一种开创性的缓存方案,它提供了在现有JSP页面之内实现内存缓存的功能。OSCache是个一个被广泛采用的高性能的J2EE缓存框架,OSCache还能应用于......
  • 踩坑|以为是Redis缓存没想到却是Spring事务!
    前言  最近碰到了一个Bug,折腾了我好几天。并且这个Bug不是必现的,出现的概率比较低。一开始我以为是旧数据的问题,就让测试重新生成了一下数据,重新测试。由于后面几轮测试均未出现,我也就没太在意。  可惜好景不长,测试反馈上次的问题又出现了。于是我立马着手排查,根据日志的表......
  • LRU缓存与LinkedHashMap源码
    今天再刷LeetCode时,遇到了第146题LRU缓存。题目如下:请你设计并实现一个满足LRU(最近最少使用)缓存约束的数据结构。实现LRUCache类:LRUCache(intcapacity)以正整数作为容量capacity初始化LRU缓存intget(intkey)如果关键字key存在于缓存中,则返回关键字的值,否......