首页 > 数据库 >亿级电商流量,高并发下Redis与MySQL的数据一致性如何保证

亿级电商流量,高并发下Redis与MySQL的数据一致性如何保证

时间:2024-02-29 22:56:19浏览次数:37  
标签:缓存 请求 删除 数据库 Redis 更新 MySQL 电商 数据

前言:

只要使用到缓存,无论是本地缓存还是使用Redis做缓存,那么就会存在数据同步不一致的问题。

  1. 先读取缓存,缓存数据有,则立即返回结果

  2. 如果缓存中没有数据,则从数据库中读取数据

  3. 把读取到的数据同步到缓存中,提供下次读请求返回数据

这样的作法是大多数人使用缓存的方式,这样能有效减轻数据库压力,但是如果修改删除数据,因为缓存无法感知到数据在数据库中的修改。

这样就会造成数据库中的数据与缓存中数据不一致。

那么该如何解决呢?

有下面4种解决方案:

  1. 先更新缓存,再更新数据库

  2. 先更新数据库,再更新缓存

  3. 先删除缓存,后更新数据库

  4. 先更新数据库,后删除缓存

下面我们一一来看下每个方案的可行性:

最近无意间获得一份阿里大佬写的刷题笔记,一下子打通了我的任督二脉,进大厂原来没那么难。

这是大佬写的, 7701页的BAT大佬写的刷题笔记,让我offer拿到手软

本文,已收录于,我的技术网站 aijiangsir.com,有大厂完整面经,工作技术,架构师成长之路,等经验分享

正文

一、先更新缓存,再更新数据库

这个方案我们一般不考虑。原因是更新缓存成功,但是更新数据库出现异常了。

会导致缓存数据与数据库数据完全不一致,而且很难察觉,因为缓存中的数据一直都存在。

二、先更新DB,再更新缓存

这个方案我们一般也是不考虑,原因跟方案1一样,数据库更新成功了,缓存更新失败,同样会出现数据不一致问题,且不容易被发现,因为缓存中一直存在数据。

三、先删除缓存,后更新DB

这个方案再并发场景下也会出问题,具体出现的原因如下:

两个并发请求:请求A(更新操作)和请求B(读取操作)

  1. 请求A会先删除Redis中的数据,然后去更新数据库

  2. 此时请求B看到Redis中的数据是空的,回去数据库中查询该值,补充到Redis缓存中

  3. 此时请求A并没有更新成功,或者是事务还未提交(MySQL的事务隔离级别,会导致未提交的事务数据不会被另一个线程看到),请求B去数据库查询得到旧值.

这时候就会产生数据库和Redis数据不一致的问题。

因此一般也不建议这种方式

虽然不建议,但是如果你是采用了这种方式,该如何解决数据不一致的问题呢?

其实最简单的办法就是延时双删的策略:

  1. 先淘汰缓存

  2. 再写数据库

  3. 休眠1s,再次淘汰缓存

这样做,可以将1s内所造成的缓存脏数据,再次删除。

但是,但是,这个1s怎么确定的,具体该休眠多久呢?

  1. 自行评估自己的项目的读数据业务逻辑的耗时(这个我们可以利用SkyWalking等监控工具评估耗时)

  2. 评估写数据的休眠时间(在读数据业务耗时的基础上,加几百ms即可)

这样做的目的,就是确保读请求结束,写请求可以删除读请求造成的缓存脏数据。

延时双删就能彻底解决不一致吗?如果面试官这样问你,你千万不能回答是的。

第一,我们评估的延时时间(读请求耗时+几百毫秒),并不能完全代表实际运行过程中的耗时,运行过程如果因为系统压力过大,我们评估的耗时就是不准确,仍然会导致数据不一致的出现

第二,延时双删虽然在保证事务提交完以后再进行删除缓存,但是如果你使用的是MySQL的读写分离的机构,主从同步之间其实也会有时间差。

此时该如何解决呢?

解决办法有两个:

  1. 还是使用延时双删策略,只是睡眠时间改为在主从同步的延时时间基础上,加几百毫秒(读接口耗时+主从延迟时间+几百毫秒)

  2. 对Redis进行填充数据查询(更新缓存时查询数据库),强制走主库查询,那么我们延时双删就没必要增加主从延时时间了(增加个主从延时时间也会增加更大的不确定性,因为主从延时时间也是不稳定的)

如果面试官继续深入的问你,采用这种同步延时双删的淘汰策略,接口的吞吐量降低怎么办?(数据变更时,更新接口都要多休眠一个延时时间)

既然同步会降低吞吐量,那就同步改异步(性能优化的常用手段)。

将第二次删除的操作,异步起一个线程,异步删除,这样写的请求就不用沉睡一段时间后才能返回了。

总的来说,先删除缓存,再更新数据库的方式,还是瑕疵较多,发生数据一致性的问题和性能问题的概率更大。比如:

  1. 先删除缓存可能导致读请求因缓存缺失而大量访问数据库(尤其是高并发场景的电商,可能一瞬间就把数据库打挂了)

  2. 读请求接口的耗时和写缓存的时间,估算不够准确,会导致延迟双删中的sleep时间不好设置

下面我们来看最后一种解决方案,这个解决方式是4个方案中发生数据不一致性的概率最低的。

四、先更新DB,后删除缓存

读的时候,先读缓存,缓存没有的话,就读数据库,然后取出数据后放入缓
存,同时返回响应。更新的时候,先更新数据库,然后再删除缓存。

这种方案下就不存在数据不一致性的问题了么?

其实是依然存在的,尤其是在大型互联网电商,高并发系统中,并发问题导致的数据一致性的数据量非常大。

假设两个请求,请求A和请求B,请求A做查询操作(读请求),请求B做更新操作(写请求)

当高并发场景下,会有如下情形出现:

  1. 缓存刚好失效

  2. 请求A查询数据库,得到一个旧值

  3. 请求B将新值写入数据库

  4. 请求B删除缓存

  5. 请求A将查到的旧值写入缓存

高并发场景下,确实有可能会发生上述的情况,产生脏数据。

然而,发生这种的概率又有多少呢?

发生上述情况的一个先天性条件,就是步骤(3)的写数据库操作比步骤(2)的读数据库操作耗时更短,才有可能使得步骤(4)先于步骤(5)。

可是,大家想想,数据库的读操作的速度远快于写操作的(不然做读写分离干嘛,做读写分离的意义就是因为读操作比较快,耗资源少)。

因此步骤(3)耗时比步骤(2) 更短,这一情形很难出现。

但是,如果面试官问你:如果我的业务属性要求一定要解决怎么办?那么如何解决上述并发问题?

首先,给缓存设置过期时间是一种有效的方案。

如果你的业务数据对实时性要求不是很高,可以接受数据的短时间数据不一致的场景,我们此种方案就可以解决了(比如商品详情中的描述、属性等)

其次,仍可以采用异步延时删除的策略。

参考方案3中的异步延时删除策略方案,删除的方案其实还有问题,这个我们放在后面说

一般采用这些手段几乎就已经把Redis缓存和数据库数据不一致的概率降到了极低。

如果非要强一致性,极低的数据不一致的概率都不能接受,那么该如何解决呢?

其实也有解决方案:那就是加锁,在读请求加一个读锁,所有的读请求不阻塞,在写请求加一个写锁,一旦有写请求,则暂时阻塞读,等写请求处理完,删除完缓存再放开读。

如果你的业务并发要求不高,读多写少,且对数据一致性有很高的要求,可以采用这种方案,但是保证强一致性的同时,就会损失一些性能,所以该不该用这种方案,大家可以根据自己业务的属性做好权衡。

方案补充(重要)

3、4都属于删除缓存类,其实删除缓存类都会有一个共同的问题,那就是在删除缓存的阶段出错了怎么办?此时再读取缓存的时候每次都是错误的数据了。

此时解决方案有两个:

一、利用消息队列进行删除失败的补偿

具体的业务逻辑如下:

  1. 请求 A 先对数据库进行更新操作

  2. 在对 Redis 进行删除操作的时候发现报错,删除失败

  3. 此时将 Redis 的 key 作为消息体发送到消息队列中

  4. 系统接收到消息队列发送的消息后

  5. 再次对 Redis 进行删除操作

但是这个方案会有一个缺点,就是会对业务代码造成大量的侵入,深深的耦合
在一起。

所以还有一个优化的方案

二、订阅MySQL的binlog日志,异步删除

我们知道对 Mysql 数据库更新操作后 ,在 binlog日志中我们都能够找到相应的操作,那么我们可以订阅 Mysql数据库 的 binlog日志对缓存进行操作,这样就达到了一个解耦的目的了。

业务代码流程如下:

  1. 更新数据库,更新完成后,触发binlog消息

  2. 经常B(消费者)订阅binlog消息,执行缓存删除操作

  3. 缓存删除失败,将删除任务丢到消息队列中

  4. 进程B获取删除失败任务

  5. 执行二次删除redis缓存

说到底就是通过数据库的 binlog 来异步淘汰 key,利用工具(canal)将 binlog
日志采集发送到 MQ 中,然后通过 ACK 机制确认处理删除缓存。
先更新 DB,后删除缓存,这种方式,被称为 Cache Aside Pattern,属于缓存更新的经典设计模式之一。

所以如果大家做缓存与数据库的同步,推荐大家选择这一种方式。

总结

至此,亿级电商流量,高并发下Redis与MySQL的数据一致性如何保证的方案,非常圆满了。以上的内容,如果大家能烂熟于心、对答如流、如数家珍,基本上 面试官会被你 震惊到、吸引到。

最终,让面试官爱到 “不能自已、口水直流”。offer, 也就来了。

文末留个问题给大家:

文中提到第4种方案(先更新数据库,后删除缓存)被称为Cache Aside Pattern,属于缓存 更新的经典设计模式之一。

问题: 那大家还知道其他缓存更新的经典设计模式吗?

说在最后

求一键三连:点赞、分享、收藏

点赞对我真的非常重要!在线求赞,加个关注我会非常感激!

最近无意间获得一份阿里大佬写的刷题笔记,一下子打通了我的任督二脉,进大厂原来没那么难。
这是大佬写的, 7701页的BAT大佬写的刷题笔记,让我offer拿到手软
本文,已收录于,我的技术网站 aijiangsir.com,有大厂完整面经,工作技术,架构师成长之路,等经验分享

求一键三连:点赞、分享、收藏

点赞对我真的非常重要!在线求赞,加个关注我会非常感激!

标签:缓存,请求,删除,数据库,Redis,更新,MySQL,电商,数据
From: https://www.cnblogs.com/jiang-xiao-bei/p/18045768

相关文章

  • Redis基础数据结构
    简单动态字符串SDS在Redis里面字符串随处可见比如//设置一个(key,value)为msg和helloworld的键值对setmsg"helloworld"在这里,msg和helloworld都是一个字符串.Redis自己构建了一个名为SDS(SimpleDynamicString简单动态字符串)的类,用于作为Redis底层字符串的默认实......
  • MySQL-17.触发器
    C-17.触发器在实际开发中,经常会遇到这样的情况,有两个或者多个相互关联的表,如商品信息和库存信息分别存放在2个不同的数据表中,我们在添加一条新商品记录的时候,为了保证数据的完整性,必须同时在库存表中添加一条库存记录。这样一来,我们就必须把这两个关联的操作步骤写在程序里面,而......
  • Redis使用方法
    Widows版下载Windows版安装包 Redis-x64-3.2.100,由于Redis是绿色软件,解压后即可使用。我放在c盘programfiles中。 使用命令行开启Redis服务 在Redis-x64-3.2.100文件夹内,地址栏输入cmd,弹出命令行窗口,输入redis-server.exeredis.windows.conf,即可开启服务。可见本服务......
  • Redis哨兵模式部署
    Redis哨兵模式部署集群架构这里我们搭建一个三节点形成的Sentinel集群,来监管Redis主从集群,架构如下:这里在3台服务器中开启3个redis实例,信息如下:ipport角色172.18.1.106379/27001master172.18.1.116379/27001slave172.18.1.136379/27001slave安装r......
  • mysql 查询语句区分大小写
    一、查询语句上加binarySELECTa.DOCU_CODE'单一窗口编号',b.DOCU_CODE'本地编号',a.DOCU_NAME'单一窗口名称',b.DOCU_NAME'本地名称'fromlicensedocua,licensedocu_copybwherebinarya.DOCU_CODE=b.DOCU_CODEanda.DOCU_NAME!=b.DOCU_NA......
  • Redis Watch机制
    作用在事务被EXEC执行之前如果被监视的KEY发生了变化则拒绝执行当前事务不支持事务已经执行的命令回滚watch机制作用于事务开始之前的检查而非事务中某一条被监视的Key命令执行前检查。Redis事务没有回滚机制。Redis事务不支持回滚的原因是:Redis官方认为Redis命令执行不......
  • 使用Navicat for MySQL远程访问MySql8.0的问题。
    首先我们进入mysql,查看mysql中所有用户权限usemysql;selectuser,hostfromuser;我们发现host默认都是localhost访问权限我们要修改root的远程访问权限updateusersethost='%'whereuser='root';再次执行selectuser,hostfromuser;说明我们已经修改成功了。允许......
  • MySQL启停耗时久是什么原因
    一、问题背景 基础环境:主机类型:x3850X6操作系统:DB:RedHatEnterpriseLinux9.17.8存储:IBM存储,500GB内存:64GCPU型号:[email protected]核数:32CORE数据库环境:8.0.27 问题现象:测试环境数据库启停耗时较长。 说明:测试环境有一套MySQL数据......
  • CentOS 7 - 安装MySQL 5.7
    本文涉及的产品云数据库RDSSQLServer,独享型2核4GB推荐场景:SQLServer性能诊断案例分析立即试用云数据库RDSMySQLServerless,0.5-2RCU50GB推荐场景:学生管理系统数据库设计搭建个人博客立即试用 简介: CentOS7的默认yum仓......
  • 东南亚主播扎堆,南宁怎样做跨境电商?
    第一个是,国新办举行新闻发布会,回顾《区域全面经济伙伴关系协定》生效两周年成果。第二个是,警茶出圈,成为热点话题。先来看今天的第一条。前不久,国新办举行了新闻发布会,回顾了《区域全面经济伙伴关系协定》生效两周年的成果。《区域全面经济伙伴关系协定》,是由东盟十国发起,中国、日......