首页 > 其他分享 >限流策略了解

限流策略了解

时间:2022-10-24 00:33:47浏览次数:44  
标签:缓存 策略 批量 队列 流量 了解 限流 MQ

转自:https://www.cnblogs.com/brxHqs/p/9767942.html 

1.突发流量 

高并发情况下带来的突发流量: 

常见的优化方案有两种:

  • 1)上游队列缓冲(push阻塞),限速发送;
  • 2)下游队列缓冲(定时或者批量拉取pull,可以起到削平流量),限速执行。

如果上游发送流量过大,MQ提供拉模式确实可以起到下游自我保护的作用,会不会导致消息在MQ中堆积?

答:下游MQ-client拉取消息,消息接收方能够批量获取消息,需要下游消息接收方进行优化(提供批处理,比如批量写),否则整体吞吐量低,也会造成mq堆积。

2.高并发系统保护策略

2.1 缓存

累积一些数据,批量写入,先写redis再写数据库;内存里面的缓存队列,mq像是一种缓存队列。

2.2 服务降级

非核心链路,不提供相关的功能。

2.3 限流

一般来说系统的吞吐量是可以被测算的,一旦达到阈值,就需要限制流量。比如:延迟处理,拒绝处理,部分拒绝处理等等。

  • Nginx前端限流:按照一定的规则如IP、账号、调用逻辑等在Nginx层面做限流;

  • 业务应用系统限流:客户端限流(验证码;获取动态请求路径pathvariable,到达接口地址隐藏的效果);服务端限流(redis限速器,延迟队列);

  • 数据库限流:数据库链接池化,Mysql(如max_connections)、Redis(如tcp-backlog)都会有类似的限制连接数的配置。

限流算法:计数器、漏桶、令牌桶等,没仔细看。

 

标签:缓存,策略,批量,队列,流量,了解,限流,MQ
From: https://www.cnblogs.com/BlueBlueSea/p/16820170.html

相关文章

  • DDD初步了解
    拆分领域模型,使用充血模式(与贫血模式相反,我们MVC模式中的model/DO/DTO,只包含属性和get、set方法,就是贫血模式);各领域独立发展,领域间的交互,使用领域服务来实现;封装变化;实......
  • 堆积木是小孩子最爱玩的游戏,但是因为小孩子的好奇心(比如误食积木等)导致家长们越不愿意
    publicstaticvoidmain(String[]args){ for(inti=1;i<=7;i++){ for(intj=7;j>=2*i-1;j--){ System.out.print("*"); } System.out.......
  • Docker 与 K8S学习笔记(二十五)—— Pod的各种调度策略(下)
    在实际应用中,我们往往需要提高Kubernetes集群的资源利用率,即允许集群中所有负载所需的资源总量超过集群所提供的资源量,这个时候,当资源不足时,系统可以选择释放一些不重要的......
  • Sentinel(二)--限流详解
    在Sentinel中,限流的直接表现形式是,在执行EntrynodeA=SphU.entry(resourceName)的时候抛出FlowException异常。FlowException是BlockException的子类,您可以捕捉Blo......
  • RIP路由欺骗攻击与防御策略
    一.工作目的掌握基于RIP路由欺骗攻击过程和RIP源端鉴别配置方法二.实验环境Vm1:win7客户机vm2:win2008web服务器三.实验拓扑              ......
  • 防火墙NAT策略
    防火墙NAT策略>理论讲解:NAT概述NAT技术是用来解决当今IP地址资源枯竭的一种技术,同时也是IPv4到IPv6的过渡技术,绝大多数网络环境中在使用NAT技术。NAT分类在内外网的边界,流量......
  • 负载均衡策略之随机策略
    随机策略:在可用服务中,随机找一个,如果随机找到的server为null或者不可用,就会while不停的循环选取,直到选取可用的server源码分析:publicServerchoose(ILoadBalancerlb,......
  • Java限流及常用解决方案
    前言随着微服务的流行,服务和服务之间的依赖越来越强,调用关系越来越复杂,服务和服务之间的稳定性越来越重要。在遇到突发的请求量激增,恶意的用户访问,亦或请求频率过高给下游......
  • 奶茶店转让应该了解哪些秘籍?这几个秘籍很宝贵
     转让一家奶茶店在一些人眼里看来不是什么难事,但事实上如果没有了解一些秘籍,那么光凭自己转店是行不通的。那么奶茶店转让应该了解哪些秘籍?今天铺先生为大家总结这几个秘......
  • 传奇开服要准备什么和了解什么?
    首先之前已经分享过,开服服务器是很重要的,起到上传、存储、下载的作用,如果是服务器的配置没有选择够,可能会有掉线、卡顿的情况,那么选择服务器应该考虑到哪些因素呢?1、版本补......