首页 > 其他分享 >Spring Colud之Loadbalancer

Spring Colud之Loadbalancer

时间:2023-02-15 11:15:02浏览次数:41  
标签:负载 调用 服务 Spring Colud 网关 均衡 Loadbalancer 客户端

一、负载均衡有两大门派,服务端负载均衡客户端负载均衡

网关层负载均衡

网关层负载均衡也被称为服务端负载均衡,就是在服务集群内设置一个中心化负载均衡器,比如 API Gateway 服务。发起服务间调用的时候,服务请求并不直接发向目标服务器,而是发给这个全局负载均衡器,它再根据配置的负载均衡策略将请求转发到目标服务。

 

 

 

网关层负载均衡的应用范围非常广,它不依赖于服务发现技术,客户端并不需要拉取完整的服务列表;同时,发起服务调用的客户端也不用操心该使用什么负载均衡策略。不过,网关层负载均衡的劣势也很明显

1.网络消耗:多了一次客户端请求网关层的网络开销,在线上高并发场景下这层调用会增加 10ms~20ms 左右的服务响应时间。别小瞧了这十几毫秒的时间,在超高 QPS 的场景下,性能损耗也会被同步放大,降低系统的吞吐量;

2.复杂度和故障率提升:需要额外搭建内部网关组件作为负载均衡器,增加了系统复杂度,而多出来的那一次的网络调用无疑也增加了请求失败率。Spring Cloud Loadbalancer 可以很好地弥补上面的劣势

客户端负载均衡

Spring Cloud Loadbalancer 采用了客户端负载均衡技术,每个发起服务调用的客户端都存有完整的目标服务地址列表,根据配置的负载均衡策略,由客户端自己决定向哪台服务器发起调用。

客户端负载均衡的优势很明显。

1.网络开销小:由客户端直接发起点对点的服务调用,没有中间商赚差价;

2.配置灵活:各个客户端可以根据自己的需要灵活定制负载均衡策略。不过呢,如果想要应用客户端负载均衡,那么还需要满足一个前置条件,发起服务调用的客户端需要获取所有目标服务的地址,这样它才能使用负载均衡规则选取要调用的服务。也就是说,客户端负载均衡技术往往需要依赖服务发现技术来获取服务列表。所以,Nacos 和 Loadbalancer 自然而然地走到了一起,一个通过服务发现获取服务列表,另一个使用负载均衡规则选出目标服务器。

二、Loadbalancer 工作原理

Loadbalancer 组件通过 @Loadbalanced 注解对 WebClient 动了一番手脚,在启动过程中利用了自动装配器机制,分三步偷偷摸摸地向 WebClient 中塞了一个特殊的 Filter(过滤器),通过过滤器实现了负载均衡功能。

Loadbalancer 提供了两种内置负载均衡策略。

RandomLoadBalancer:在服务列表中随机挑选一台服务器发起调用,属于拼人品系列;

RoundRobinLoadBalancer:通过内部保存的一个 position 计数器,按照次序从上到下依次调用服务,每次调用后计数器 +1,属于排好队一个个来系列。

 

三、思考

有Nignx和API網關,是否還需要微服務的網關呢

答案:需要的,微服务网关和nginx扮演的角色不一样,nginx作为高性能反向代理,性能上是完爆任何微服务网关的,而且Nignx和api网关只负责网关->微服务的链路,但是基于服务发现构建的微服务架构里,微服务之间互相调用是不经过网关的

微服务网关,往往扮演的角色是在外部网关和内部微服务之间的桥梁,通常不会作为最外层网关直接承接外部用户流量

标签:负载,调用,服务,Spring,Colud,网关,均衡,Loadbalancer,客户端
From: https://www.cnblogs.com/zzq919/p/17117084.html

相关文章

  • CentOS中使用Dockerfile部署带websocket的SpringBoot的jar包
    场景CentOS7中使用Dockerfile部署后台jar包在上面使用Dockerfile定制的镜像部署了一个普通的jar包, 如果是jar包里面包含websocket的使用,流程也是一样。websocket所使用的......
  • Spring6之HTTP Interface分析
    目录1HTTPInterface1.1引言1.2示例1.2.1创建服务端1.2.2SpringBoot工程1.3深入分析1.3.1GetExchange(HttpExchange)1.3.2UserApiService实例创建1.4其他特性1HT......
  • 随堂笔记8-spring循环依赖
    spring循环依赖//A依赖了BclassA{publicBb;}//B依赖了AclassB{publicAa;}以上就会出现循环依赖,解决方法,二级三级缓存bean的生命周期:spring扫描cla......
  • 【Spring-boot-route(十九)Spring-boot-admin监控服务+(二十)spring-boot-route(二十)Spring
    ​​SpringBootAdmin​​​不是Spring官方提供的模块,它包含了​​Client​​​和​​Server​​两部分。server部分提供了用户管理界面,client即为被监控的服务。client需要......
  • 【工具使用】IDEA Spring源码报Unable to find method ‘org.gradle.api.artifacts.re
    1 前言IDEA拉Spring源码,源码是Gradle管理依赖的,但是报错Unabletofindmethod'org.gradle.api.artifacts.result.ComponentSelectionReas我的IDEA有2019、2021的2 ......
  • Java:SpringBoot整合Knife4j(Swagger)提供接口文档
    spring-boot版本2.7.71、引入Maven坐标pom.xml<dependency><groupId>com.github.xiaoymin</groupId><artifactId>knife4j-spring-boot-starter</artifactId>......
  • SpringBoot常用注解大全
    常用注解概览这里整理了一张SpringBoot常用注解的思维导图,本文主要讲解这些注解的用法。 组件相关注解@ComponentScan默认扫描当前包及其子包下面被@component,@Cont......
  • spring-注解开发
    一.注解实现自动装配jdk1.5开始支持注解,spring2.5开始支持注解!要使用注解须知:1.导入约束xmlns:context="http://www.springframework.org/schema/context"http://......
  • SpringFramework学习日记
    初识Spring,Spring的系统架构1、Spring全家桶是一个很nb的生态,我们可以用他开发自己想要的格式的功能CoreContainer是Spring的容器,java的对象交给Spring的容器来管理AO......
  • SpringMVC源码(六):Handler处理器
    在MVC请求流程中,Handler处理器依赖于HandlerMapping组件。因此在处理客户端请求时,会优先获取HandlerMapping处理器。HandlerMapping组件主要作用是根据客户端的访......