首页 > 其他分享 >高并发和分布式中的幂等处理

高并发和分布式中的幂等处理

时间:2022-11-01 11:34:42浏览次数:51  
标签:处理 amount 状态机 并发 token version avai 分布式 重复


高并发和分布式中的幂等处理

概念

幂等(idempotent、idempotence)是一个数学与计算机学概念,常见于抽象代数中。

在编程中,一个幂等操作的特点是其任意多次执行所产生的影响均与一次执行的影响相同。幂等函数,或幂等方法,是指可以使用相同参数重复执行,并能获得相同结果的函数。这些函数不会影响系统状态,也不用担心重复执行会对系统造成改变。例如,“getUsername()和setTrue()”函数就是一个幂等函数。

用通俗的话讲:就是针对一个操作,不管做多少次,产生效果或返回的结果都是一样的

举例

  1. 比如前端对同一表单数据的重复提交,后台应该只会产生一个结果。
  2. 比如我们发起一笔付款请求,应该只扣用户账户一次钱,当遇到网络重发或系统bug重发,也应该只扣一次钱。
  3. 比如发送消息,也应该只发一次,同样的短信如果多次发给用户,用户会崩溃。
  4. 比如创建业务订单,一次业务请求只能创建一个,不能出现创建多个订单。

还有很多诸如此类的,这些逻辑都需要幂等的特性来支持。

产生原因

由于重复点击或者网络重发 eg:

  • 点击提交按钮两次;
  • 点击刷新按钮;
  • 使用浏览器后退按钮重复之前的操作,导致重复提交表单;
  • 使用浏览器历史记录重复提交表单;
  • 浏览器重复的HTTP请;
  • nginx重发等情况;
  • 分布式RPC的try重发等;

实现幂等性的技术方案

查询操作

查询一次和查询多次,在数据不变的情况下,查询结果是一样的,select是天然的幂等操作

删除操作

删除操作也是幂等的,删除一次和多次删除都是把数据删除。(注意可能返回结果不一样,删除的数据不存在,返回0,删除的数据多条,返回结果多个)

唯一索引,防止新增脏数据

拿资金账户和用户账户来说,每个用户只能有一个资金账户,怎么防止给用户创建资金账户多个,那么给资金账户表中的用户ID加唯一索引,在新增的时候只有一个请求成功,剩下都会抛出唯一索引重复异常。比如​​org.springframework.dao.DuplicateKeyException​​,这时候再查询一次就可以了,数据存在,返回结果。

token机制,防止页面重复提交

要求:页面的数据只能被点击提交一次

发生原因:由于重复点击或者网络重发,或者nginx重发等情况会导致数据被重复提交

解决办法:
集群环境:采用token加redis
单JVM环境:采用token加redis或token加jvm内存

处理流程:
数据提交前要向服务的申请token,token放到redis或jvm内存,token有效时间
提交后后台校验token,同时删除token,生成新的token返回

token特点:要申请,一次有效性,可以限流。

注意:redis要用删除操作来判断token,删除成功代表token校验通过,如果用select+delete来校验token,

存在并发问题,不建议使用

悲观锁

获取数据的时候加锁获取​​select * from table_xxx where id=’xxx’ for update;​

注意:id字段一定是主键或者唯一索引,不然会锁表!。悲观锁使用时一般伴随事务一起使用,数据锁定时间可能会很长,根据实际情况选用。

乐观锁

乐观锁只是在更新数据那一刻锁表,其他时间不锁表,所以相对于悲观锁,效率更高。乐观锁的实现方式多种多样可以通过version或者其他状态条件:

1.通过版本号实现 ​​update table_xxx set name=#name#,version=version+1 where version=#version#​

2.通过条件限制 ​​update table_xxx set avai_amount=avai_amount-#subAmount# where avai_amount-#subAmount# >= 0​​​ 要求:​​avai_amount-subAmount >=0​

这个情景适合不用版本号,只更新是做数据安全校验,适合库存模型,扣份额和回滚份额,性能更高。

注意:乐观锁的更新操作,最好用主键或者唯一索引来更新,这样是行锁,否则更新时会锁表,上面两个sql改成下面的两个更好。

​update table_xxx set name=#name#,version=version+1 where id=#id# and version=#version#​​​​update table_xxx set avai_amount=avai_amount-#subAmount# where id=#id# and avai_amount-#subAmount# >= 0​

分布式锁

还是拿插入数据的例子,如果是分布是系统,构建全局唯一索引比较困难,例如唯一性的字段没法确定,这时候可以引入分布式锁,通过第三方的系统(redis或zookeeper),在业务系统插入数据或者更新数据,获取分布式锁,然后做操作,之后释放锁,其实就是为了控制多线程并发的操作,也是分布式系统中经常用到的解决思路。

select + insert

并发不高的后台系统,或者一些任务JOB,为了支持幂等,支持重复执行,简单的处理方法是,先查询下一些关键数据,判断是否已经执行过,在进行业务处理,就可以了。

注意:核心高并发流程不要用这种方法。

状态机幂等

在设计单据相关的业务,或者是任务相关的业务,肯定会涉及到状态机(状态变更图),就是业务单据上面有个状态,状态在不同的情况下会发生变更,一般情况下存在有限状态机,这时候,如果状态机已经处于下一个状态,这时候来了一个上一个状态的变更,理论上是不能够变更的,这样的话,保证了有限状态机的幂等。

注意:订单等单据类业务,存在很长的状态流转,一定要深刻理解状态机,对业务系统设计能力提高有很大帮助。

对外提供接口的api如何保证幂等

如银联提供的付款接口:需要接入商户提交付款请求时附带:source来源,seq序列号source+seq在数据库里面做唯一索引,防止多次付款,(并发时,只能处理一个请求)。

重点:

对外提供接口为了支持幂等调用,接口有两个字段必须传,一个是来源source,一个是来源方序列号seq,这个两个字段在提供方系统里面做联合唯一索引,这样当第三方调用时,先在本方系统里面查询一下,是否已经处理过,返回相应处理结果;没有处理过,进行相应处理,返回结果。注意,为了幂等友好,一定要先查询一下,是否处理过该笔业务,不查询直接插入业务系统,会报错,但实际已经处理了。

最后总结:

幂等性应该是合格程序员的一个基因,在设计系统时,是首要考虑的问题,尤其是在像第三方支付平台,银行,互联网金融公司等涉及的网上资金系统,既要高效,数据也要准确,所以不能出现多扣款,多打款等问题,这样会很难处理,并会大大降低用户体验。


标签:处理,amount,状态机,并发,token,version,avai,分布式,重复
From: https://blog.51cto.com/u_13351110/5812926

相关文章

  • 使用Docker一键搭建FastDFS+Nginx分布式文件服务器
    做过很多项目在图片上传上一直使用的是FastDFS,刚开始得知搭建一个这样的系统非常复杂,所以直接使用了淘淘商城的虚拟机。在后面的项目中,最终选择在在阿里云上自己搭建一个Fas......
  • 批处理删除指定后缀的旧文件并保留该后缀最新的几个文件的dos命令
    setnum=3setsuffix=logfor/f"skip=%num%tokens=*delims="%%iin('dir/b/o-d*.%suffix%')dodel/f/q"%%i"前两行是指定保留文件的个数和指定的文件后缀......
  • SSM实战的问题和处理方法----wsdchong
    前言:经过两个星期的学习,初步了解了SSM的环境配置和一些相关了解。第一阶段--理论了解的过程首先是4/20开始写的笔记:​​spring学习笔记​​、​​mybatis学习笔记​​、​​......
  • Python实现监控网络设备状况并发送邮件
    importparamikoimportdatetimeimporttimefromemail.mime.textimportMIMETextimportsmtplib#定义发送邮箱函数defsend_email(title):title=titles......
  • HCIE-FusionBlock分布式块存储
    FusionStorageBlock分布式块存储华为存储分类全闪存(OceanStorDorado)混合闪存(OceanStorV3、OceanStorV5)边缘数据存储(FusionCube)分布式存储(OceanStor100D)......
  • JUC并发编程
    多线程进阶——JUC并发编程准备工作新建一个maven项目。****检查准备环境。1.什么是JUCJava.util工具包。业务:普通的线程代码——Thread。Runnable:没有......
  • Mac应用程序无法打开或文件损坏的处理方法
    打开任何来源若没有“任何来源”这个选项,按以下步骤执行:1、打开终端(Terminal.app)2、拷贝粘贴sudospctl--master-disable按回车键3、输入你的账户密码,按回车键确认执......
  • 人工智能 之 自然语言处理(NLP)算法分类总结
    目录文章目录​​目录​​​​〇、推荐​​​​一、人工智能学习算法分类​​​​1.纯算法类​​​​2.建模方面​​​​二、详细算法​​​​1.分类算法​​​​2.回归算......
  • graylog 索引模版处理
    graylog默认分词只支持对应几个固定的字段,如果需要自定义索引信息,就可以使用模版能力,默认包含了一个graylog-internal,order为-1但是我们可以扩展默认索引信息查询信......
  • 用IntersectionObserver来处理已读未读
    *参考地址:IntersectionObserver-WebAPI接口参考|MDN(mozilla.org)一、IntersectionObserver的使用场景主要用来监听目标元素和指定的根元素之间,在滚动界面的时......