• 2024-07-02Eureka的自扩展之道:服务自动扩展的秘诀
  • 2024-07-02Intel Arrow Lake P/E大小核布局变了!有两大好处
    Intel12/13/14代酷睿都是P/E混合架构设计,俗称大小核,整体布局是一致的,但是下一代的ArrowLake,也就是酷睿Ultra200系列(没有15代酷睿了),将会迎来一次变革。在目前的架构中,P核、E核、GPU核显、I/O控制器等亿次都挂靠在一条环形总线(RingBug),其中P核是一个整体(最多8个),E核是另一
  • 2024-07-02无干扰推理:混合下游工作负载的 分解LLM 推理
    24年1月来自中科院和华为云的论文“InferencewithoutInterference:DisaggregateLLMInferenceforMixedDownstreamWorkloads”。基于Transformer的大语言模型(LLM)推理服务现已成为许多云服务的骨干。LLM推理包括预填充阶段和解码阶段。然而,现有的LLM部署实
  • 2024-07-01一文读懂“负载均衡”
    原文链接:https://blog.csdn.net/cyl101816/article/details/135195729负载均衡无处不在,无论是分布式,还是中间件,还是微服务,都需要涉及到负载均衡。一、什么是负载均衡负载均衡是一种在计算机网络和系统架构中使用的技术,用于均衡分发工作负载到多个资源,比如:服务器、计算节点或存储
  • 2024-06-30Nginx和Tomcat负载均衡,动静分离
    Nginx和Tomcat负载均衡,动静分离目录Nginx和Tomcat负载均衡,动静分离一、反向代理1、反向代理的概念2、反向代理的优势3、Nginx四层反向代理和七层反向代理二、Nginx动静分离实现原理1、动静分离的概念2、动静分离的原理3、Nginx静态处理优势三、Nginx负载均衡调度算法(6种)1、轮询(
  • 2024-06-30Nginx实现负载均衡的4种常用方式及路径匹配规则
    一、Nginx实现负载均衡的4种常用方式为:轮询模式、IP哈希模式、权重模式、最少连接实现负载均衡需要在http模块中配置使用upstream模块定义后台的webserver的池子,名为proxy-web,在池子中我们可以添加多台后台webserver,其中状态检查、调度算法都是在池子中配置;然后在se
  • 2024-06-24nginx配置负载均衡,nginx负载均衡404错误
    nginx在nginx.conf配置文件中通过upstream模块和server模块的配合使用,就可以实现负载均衡。在http的upstream模块中,可以通过server指令指定后端服务器的IP地址和端口,同时还可以设定每个后端服务器在负载均衡调度中的状态。常用的状态有:weight:服务访问的权重,默认是1。down:表示当
  • 2024-06-24Dubbo源码解析-熔灾机制
    上篇我们介绍了消费端负载均衡的原理Dubbo源码解析-负载均衡-CSDN博客    因为篇幅问题,本文主单独Dubbo消费端负载均原理,从dubbo源码角度进行解析。    大家可以好好仔细读一下本文。有疑问欢迎留言。    接着说明,读Dubbo源码最好是先对Spring源
  • 2024-06-23java项目中的高并发处理
    在Java面试中,当被问及项目中的高并发处理时,你可以从以下几个方面来分享经验:1.项目背景介绍简要介绍项目的业务场景和功能,以及为什么需要高并发处理。2.并发量评估描述如何评估系统需要处理的并发量,包括用户量、请求频率等。3.系统架构设计解释为应对高并发,系统架构
  • 2024-06-23k8s手撕架构图+详解
    1.架构图这个架构图展示了一个典型的Kubernetes集群的结构和各个组件的作用。以下是详细解释2.架构图整体介绍 ControllerPlane(控制平面)负责管理和控制整个Kubernetes集群。包含以下组件:etcd:一个分布式键值存储,存储集群的所有数据。Scheduler(调度器):负责将Pod
  • 2024-06-22zookeeper-05
    zookeeper负载均衡和nginx负载均衡区别   Zookeeper和Nginx都是常见的负载均衡解决方案,但在功能和应用场景上有一些区别。功能:Zookeeper负载均衡:Zookeeper是一个分布式协调系统,可以用于服务发现和负载均衡。它通过管理和维护一组服务节点的元数据信息,来实现请求的
  • 2024-06-22在Linux中,lvs/nginx/haproxy 优缺点?
    LinuxVirtualServer(LVS)、Nginx和HAProxy都是流行的负载均衡解决方案,它们各自有不同的优缺点:1.LVS(LinuxVirtualServer)优点:高性能:LVS运行在Linux内核空间,因此具有较低的延迟和较高的吞吐量。稳定性:作为内核模块,LVS可以提供较高的稳定性。多种负载均衡算法:支持
  • 2024-06-21LVS负载均衡群集
    一、LVS概述1.工作原理LVS(LinuxVirtualServer)是一个用于构建高可用性和可伸缩性网络服务的开源软件,其工作原理如下:负载均衡器(LoadBalancer):LVS主要功能是作为一个负载均衡器,将来自客户端的请求分发到多个后端服务器,以达到分担负载、提高可用性和性能的目的。四种调度算法:
  • 2024-06-20LVS+KeepAlived高可用负载均衡集群
    1、高可用群集(1)单台服务器(2)keepalived一个合格的群集应该具备的特点:负载均衡:用于提高群集的性能(LVSNqinxHAProxySLBF5)健康检查(探针):针对于调度器和节点服务器(KeepalivedHeartbeat)故障转移:通过VIP漂移实现主备切换健康检查(探针)常用的工作方式:发送心跳消息:vrr
  • 2024-06-17CDN,负载均衡器,反向代理的异同
    内容分发网络(CDN)功能和作用:内容缓存和分发:CDN在全球多个节点上缓存静态内容(如图像、CSS、JavaScript文件),将内容分发到离用户最近的节点,以减少延迟并加快加载速度。负载分担:通过将请求分发到多个缓存节点,CDN可以减少源服务器的负载,从而提高整体系统的性能和可用性。
  • 2024-06-16CPU利用率和负载
    CPU利用率显示的是程序在运行期间实时占用的CPU百分比;cpu使用率反映的是当前cpu的繁忙程度,忽高忽低的原因在于占用cpu处理时间的进程可能处于io等待状态但却还未释放进入wait。CPU负载是指某段时间内占用cpu时间的进程和等待cpu时间的进程数,这里等待cpu时间的进程是指等待被唤醒
  • 2024-06-14Nginx+KeepAlived高可用负载均衡集群的部署
    目录一.KeepAlived补充知识1.一个合格的群集应该具备的特点2.健康检查(探针)常用的工作方式3.相关面试问题问题1问题2二.Keepealived脑裂现象1.现象2.原因硬件原因运用配置原因3.解决4.预防方法1方法2方法3方法4三.实验部署1.两台nginx做初始化操作并安装ngin
  • 2024-06-13nginx负载均衡
    upstreamtornado_servers{least_conn;#使用最少连接数算法server192.168.31.158:8888weight=5;serverlocalhost:8888weight=3;}server{listen80;server_name192.168.62.132;location/{proxy_passhttp://tornado_serv
  • 2024-06-12LVS+KeepAlived高可用负载均衡集群
    目录1.高可用群集的相关知识1.1单台服务器1.2keepalived1.3Keepalived实现原理2.部署keepalived2.1准备虚拟机2.2初始化操作2.3更新在线源仓库并安装keepalived​2.4配置主调度器2.5 配置备调度器2.6 启动主备keepalived2.7验证3.常问题目4.非抢占模式
  • 2024-06-122.负载压力测试
        负载压力测试是一种重要的系统测试方法,旨在评估系统在正常和峰值负载情况下的性能表现。一、基本概念:  负载压力测试是在一定约束条件下,通过模拟实际用户访问系统的行为,来测试系统所能承受的并发用户数、运行时间、数据量等,以确定系统所能承受的最大负载压力。有助
  • 2024-06-12如何挑选CDN加速器节点网络?
    在选择CDN加速节点网络时,确保精准性对于提升服务品质至关重要。以下是影响选择的关键因素:用户地理位置考量:CDN节点应贴近用户所在地,以减少数据传输延迟。通过GSLB(全局负载均衡器)根据用户IP地址判断其位置,从而选择最近的节点。网络条件评估:分析用户地区的网络带宽、稳定性以
  • 2024-06-11nginx和阿里云的SLB的区别?
     阿里云SLB和nginx的负载均衡有什么区别? 区别在于阿里云提供的是SAAS服务,它是按次收费的。所以SLB的扩展性几乎是无限的,而且扩展也非常简单往你帐户里面充钱就可以SLB和NGINX都具备负载均衡的功能,但它们在应用场景、功能灵活性以及专业优化程度上存在明显的异同。阿里云
  • 2024-06-11云waf的负载均衡均衡流量分发功能
    概述云WAF(WebApplicationFirewall)是一种基于云计算环境的Web应用安全防护服务,主要用于保护Web应用程序免受各种网络攻击,如SQL注入、跨站脚本(XSS)、分布式拒绝服务(DDoS)攻击等。云WAF的负载均衡和流量分发功能指的是它能够利用云服务提供商的全球分发网络,实现分布式地处理流量
  • 2024-06-10LVS负载均衡群集+NAT部署
    目录1.企业群集应用概述1.1群集的含义1.2企业群集分类2.LVS负载均衡群集运用理论2.1负载均衡的架构2.2LVS负载均衡群集工作的三种模式3.LVS虚拟服务器(LinuxVirtualServer)3.1ip_vs通用模块 3.2LVS调度器用的调度方法4.ipvsadm工具选项说明5.LVS负载均衡-NA
  • 2024-06-09用 tiny-frpc 轻松搞定内网穿透
    你是否曾为内网穿透的复杂配置和庞大工具而头疼?好消息来了,tiny-frpc就是为你设计的!这是由gofrp团队开发的一款轻量级反向代理工具,不仅简单高效,还能大大减少依赖和配置的麻烦。tiny-frpc基于Go语言开发,体积极小,部署和运行极为快速。下载、配置、运行,一气呵成,你只需要几分钟