首页 > 数据库 >如何保证缓存与数据库的双写一致性?

如何保证缓存与数据库的双写一致性?

时间:2022-10-12 19:46:20浏览次数:47  
标签:缓存 请求 队列 数据库 更新 一致性 数据 双写

一般来说,如果允许缓存可以稍微的跟数据库偶尔有不一致的情况,也就是说如果你的系统不 是严格要求 “缓存+数据库” 必须保持一致性的话,最好不要做这个方案,即:读请求和写请 求串行化,串到一个内存队列里去。 串行化可以保证一定不会出现不一致的情况,但是它也会导致系统的吞吐量大幅度降低,用比 正常情况下多几倍的机器去支撑线上的一个请求。 缓存+数据库读写的模式:   读的时候,先读缓存,缓存没有的话,就读数据库,然后取出数据后放入缓存,同时返回响应。   更新的时候,先删除缓存,然后再更新数据库。 为什么是删除缓存,而不是更新缓存?

原因很简单,很多时候,在复杂点的缓存场景,缓存不单单是数据库中直接取出来的值。
比如可能更新了某个表的一个字段,然后其对应的缓存,是需要查询另外两个表的数据并进行
运算,才能计算出缓存最新的值的。
另外更新缓存的代价有时候是很高的。是不是说,每次修改数据库的时候,都一定要将其对应
的缓存更新一份?也许有的场景是这样,但是对于比较复杂的缓存数据计算的场景,就不是
这样了。如果你频繁修改一个缓存涉及的多个表,缓存也频繁更新。但是问题在于,这个缓存 到底会不会被频繁访问到?
举个栗子,一个缓存涉及的表的字段,在 1 分钟内就修改了 20 次,或者是 100 次,那么缓存更
新 20 次、100 次;但是这个缓存在 1 分钟内只被读取了 1 次,有大量的冷数据。实际上,如
果你只是删除缓存的话,那么在 1 分钟内,这个缓存不过就重新计算一次而已,开销大幅度降
低。用到缓存才去算缓存。
其实删除缓存,而不是更新缓存,就是一个 lazy 计算的思想,不要每次都重新做复杂的计算,
不管它会不会用到,而是让它到需要被使用的时候再重新计算。像 mybatis,hibernate,都有
懒加载思想。查询一个部门,部门带了一个员工的 list,没有必要说每次查询部门,都把里面的
1000 个员工的数据也同时查出来啊。80% 的情况,查这个部门,就只是要访问这个部门的信息
就可以了。先查部门,同时要访问里面的员工,那么这个时候只有在你要访问里面的员工的时
候,才会去数据库里面查询 1000 个员工

  

问题:先更新数据库,再删除缓存。如果删除缓存失败了,那么会导致数据库中是新数据,缓 存中是旧数据,数据就出现了不一致。 比较复杂的数据不一致问题分析
数据发生了变更,先删除了缓存,然后要去修改数据库,此时还没修改。一个请求过来,去读
缓存,发现缓存空了,去查询数据库,查到了修改前的旧数据,放到了缓存中。随后数据变
更的程序完成了数据库的修改。完了,数据库和缓存中的数据不一样了... 

为什么上亿流量高并发场景下,缓存会出现这个问题?
只有在对一个数据在并发的进行读写的时候,才可能会出现这种问题。其实如果说你的并发量
很低的话,特别是读并发很低,每天访问量就 1 万次,那么很少的情况下,会出现刚才描述的
那种不一致的场景。但是问题是,如果每天的是上亿的流量,每秒并发读是几万,每秒只要有
数据更新的请求,就可能会出现上述的数据库+缓存不一致的情况。
解决方案如下: 更新数据的时候,根据数据的唯一标识,将操作路由之后,发送到一个 jvm 内部队列中。读取 数据的时候,如果发现数据不在缓存中,那么将重新执行“读取数据+更新缓存”的操作,根据唯 一标识路由之后,也发送到同一个 jvm 内部队列中。 一个队列对应一个工作线程,每个工作线程串行拿到对应的操作,然后一条一条的执行。这样 的话,一个数据变更的操作,先删除缓存,然后再去更新数据库,但是还没完成更新。此时如 果一个读请求过来,没有读到缓存,那么可以先将缓存更新的请求发送到队列中,此时会在队 列中积压,然后同步等待缓存更新完成。 这里有一个优化点,一个队列中,其实多个更新缓存请求串在一起是没意义的,因此可以做 过滤,如果发现队列中已经有一个更新缓存的请求了,那么就不用再放个更新请求操作进去 了,直接等待前面的更新操作请求完成即可。 待那个队列对应的工作线程完成了上一个操作的数据库的修改之后,才会去执行下一个操作, 也就是缓存更新的操作,此时会从数据库中读取最新的值,然后写入缓存中。 如果请求还在等待时间范围内,不断轮询发现可以取到值了,那么就直接返回;如果请求等待 的时间超过一定时长,那么这一次直接从数据库中读取当前的旧值。
读请求长时阻塞


由于读请求进行了非常轻度的异步化,所以一定要注意读超时的问题,每个读请求必须在超时
时间范围内返回。
该解决方案,最大的风险点在于说,可能数据更新很频繁,导致队列中积压了大量更新操作
在里面,然后读请求会发生大量的超时,最后导致大量的请求直接走数据库

解决方案:另外一点,因为一个队列中,可能会积压针对多个数据项的更新操作。比如有100个商品,那么这个队列里可能有100个商品的修改操作,这样读请求就会慢。
这时候我们就可以加机器。比如加10台机器,通过一种路由规则让这100个商品上读写请求 分配到这10台机器上,这样 一台机器上的一个队列最多就只有10个商品的读写请求。
 

标签:缓存,请求,队列,数据库,更新,一致性,数据,双写
From: https://www.cnblogs.com/xiaowangbangzhu/p/16785686.html

相关文章

  • 追求性能极致:客户端缓存带来的革命
    背景2020年5月份,Redis官方推出了令人瞩目的Redis6.0,提出很多新特性,包括了客户端缓存(Clientsidecaching)、ACL、ThreadedI/O和RedisClusterProxy等诸多新特性。......
  • 有关Idea的Invalidate Caches/Restart (Idea本地缓存异常,导致Idea无法识别Maven依赖)
    分析原因:有时我们自己在编写项目后,再次打开会发现自己封装的类,导入后还是爆红。这是因为Idea本地缓存异常,导致Idea无法识别Maven依赖,从而无法找到某些类。解决方式:通过Idea......
  • 缓存概念介绍
     一、缓存是什么?    缓存其实是内存中一个以key-value(键值对)的形式存储数据的一个空间。当然,缓存也可以持久化。常用的缓存技术:Memcached、Ehcache、OsCache、R......
  • 什么是缓存雪崩?服务器雪崩的场景与解决方案
    什么是应用服务雪崩雪崩问题分布式系统都存在这样一个问题,由于网络的不稳定性,决定了任何一个服务的可用性都不是100%的。当网络不稳定的时候,作为服务的提供者,自身可能会被......
  • 【CPU】缓存一致性、CPU基础
    PU的位宽、寻址总线、数据总线CPU的位宽和寄存器一次能够存储的大小相关,比如一个大于4字节的数据,我们用32位的CPU显然是无法存储它的,自然就无法一次性处理它而总线位宽和......
  • vue3中tab详情页多开keepalive根据key去动态缓存与清除缓存
    一.场景由于存在tab栏,当从查询页面点击列表进入详情时,需求是详情页都会新开一个tab,并缓存,tab中的切换不会重新加载详情页数据,但是关闭一个详情tab,再次从查询页点击这条详......
  • redis本地缓存
    我不想带给你负面情绪,但又想让你知道我的不开心。为了系统性能的提升,一般会将部分数据放入缓存中,加快访问速度。而db承担数据罗盘工作。哪些数据适合放在缓存及时性......
  • 什么是缓存雪崩?服务器雪崩的场景与解决方案
    目录什么是应用服务雪崩雪崩效应产生的几种场景缓存雪崩的解决方案雪崩的整体解决方案熔断设计隔离设计超时机制设计如何提前发现雪崩 什么是应用服务雪......
  • 浏览器缓存
    1.由后端通过response响应头设置的缓存1.1强缓存1.1.1什么是强缓存所谓的强缓存是指将由后台返回过来的文件存储到本地,当再次请求相同文件时,不用再去向服务器......
  • 【SpringBoot】解决redis 查找/删除缓存失败问题
     使用StringRedisTemplate.delete(key) 删除缓存数据失败,原因是序列化问题导致。 需要把key和hash都使用String的序列化方式 解决方法:创建一个新的配置类:@Con......