首页 > 其他分享 >分析优化的经验交流分享

分析优化的经验交流分享

时间:2024-07-25 09:54:04浏览次数:14  
标签:增强 Java 字节 Agent 经验交流 服务 分享 优化 CPU

一、背景介绍

Sermant是一个主打服务治理领域的Java Agent框架,在服务治理中难免会有针对业务流量进行解析和处理的过程,此类服务治理能力将会对微服务的服务能力产生一定的性能影响,作为一个基于Java Agent技术做服务治理的框架,我们需要在保证服务治理能力生效的同时,极小的影响微服务原有的服务性能。

虽然基于Java Agent的服务治理和基于SDK的服务治理在其原理上有所不同,但也避免不了微服务治理过程中产生对微服务原有性能的影响,基于Java Agent服务治理方式的相较于SDK的服务治理方式免去了侵入式的代码开发,是一种运行时技术,所以还需要考虑更多方面性能优化问题,例如在启动时间,运行时增强性能开销等,本文将以Sermant的SpringBoot 注册插件的性能测试及优化过程为例,分享在Java Agent场景如何进行更好的性能测试优化及在Java Agent下需要着重注意的性能陷阱。

SpringBoot 注册插件SpringBoot应用提供服务注册发现能力,可用于在不修改原有代码的前提下快速从ESB架构演进为微服务架构,在该插件中包含针对域名的替换能力,服务注册发现能力,请求的超时重试等,为架构的成功演进,原有架构中基于域名的请求调用,将会被基于注册信息的请求调用(通过该插件的服务注册发现能力,获取服务提供者注册的信息)所取代,如下图所示:

在域名处理的过程是必然会参与到调用过程中的,这是服务治理能力对业务性能影响的典型场景。

二、测试方案

众所周知,Java Agent程序和被增强应用运行时同进程,Java Agent程序最重要的是不能对被挂载的应用产生异常影响,导致应用不可用,所以Sermant在运行时的处理性能及稳定性等做多方面的测试考量。在针对微服务进行测试的过程中,我们往往只需要关注该微服务的性能即可,通过压力测试来检验微服务的服务提供能力,由于服务治理能力并不直接提供服务,我们更多地需要关注在开启服务治理能力时,对微服务本身服务提供能力的影响,所以我们在测试方案中需要进行对比测试来评估服务治理能力的好坏。

本对照测试中,我们通过压力测试让系统达到极限场景(consumer端的CPU已经到达瓶颈),来分析携带Sermant并启用服务治理能力时,对应用原有服务提供能力的影响,此处采用两种部署方案

  • 不携带Sermant,基于网关的场景,是架构改造前的运行模式
  • 携带Sermant的场景,是迁移后的微服务架构运行模式

注:在这种对比测试中,基于Java Agent的服务治理只需要对携带Java Agent程序和不携带Java Agent程序的场景进行对照测试即可,无需两套代码进行对照测试。

由于Java Agent程序和被增强应用处于统一进程,资源共享,基于上述两种部署方案进行测试,以不携带Java Agent程序作为测试分析的对照组,就可以很清晰的看出引入Java Agent程序后产生的影响,并可根据对照结果进行优化,应用于Sermant上,就可以很容易的分析出Sermant的服务治理能力对微服务本身服务提供能力带来的影响。

三、性能分析

由于需要针对应用发起的请求通过字节码增量的方式做域名的替换,SpringBoot 注册插件通过对HttpClient、Openfeign、Okhttp等http客户端进行了字节码增强,我们根据上一章节中的测试方案对该插件提供的服务治理能力进行了测试,下面我们以HttpClien为例通过CPU火焰图来讲述如何在Java Agent场景下分析性能瓶颈:

在性能调优过程中,我们可通过CPU火焰图来分析性能瓶颈,火焰图可以称之为性能问题分析的"X",可以很一针见血的看出在程序运行中哪些代码片段产生了异常的CPU占用。当然,采集CPU火焰图的方式很多,我们只需要学会如何看懂火焰图即可。

分析步骤

1. 找到字节码增强逻辑的CPU占用

在分析过程中,首先需要找到字节码增强时选中的被增强方法(本文场景增强方法为InternalHttpClient::doExecute),字节码增强需要被增强程序的原有方法调用触发,所以也可以很清晰的在CPU火焰图中可以看到,Sermant实现的逻辑调用栈在被增强方法之上,在字节码增强逻辑执行结束后,被增强方法还会继续执行。

所以除被增强方法执行的调用栈及CPU时间片占用外,皆为字节码增强所引入逻辑,在性能优化中需着重关注。

2. 分析异常占用

根据CPU火焰图原理,找出字节码增强部分,找出异常占用CPU时间片的调用栈,并进行程序的优化,如下图所示红框选择部分,皆为字节码增强中引入的逻辑,占用了非常多的CPU时间片,由于字节码增强程序和被增强程序,这种异常的占用,将会严重影响原程序的性能,在针对Java Agent场景的优化中可着重优化

通过上述步骤,我们可以一目了然的看到我们通过Java Agent程序引入的CPU额外占用,具体占用原因本文就不一一分析。

四、性能陷阱

基于上述两个章节的测试和分析方法,在本文的最后,列举出在Java Agent开发过程中经常会遇到的性能陷阱,这里也给出解决方式,可以在开发中注意:

减少反射使用

在字节码增强开发过程中,很多情况下,如果类加载器不同,针对被增强应用的类和方法往往需要通过反射去获取并使用,在我们的性能分析中,反射是一个CPU占用的巨大陷阱,在有些被BootstrapClassLoader加载的类增强时,甚至反射占用了一个方法调用30%以上的CPU时间片。

下图选中方法中,反射占用该方法调用中的大部分CPU时间片:

但是由于类加载器的限制,有些反射是必须要使用的,我们也可以通过一定的手段进行优化,比如缓存通过反射获取的类和方法,在字节码增强中,多次触发增强逻辑时减少反射占用CPU时间片非常有效。

  1. Method method = METHOD_CACHE.get(methodKey);  
  2. if (method != null) {  
  3.     return Optional.of(method);  
  4. }  
  5. method = clazz.getDeclaredMethod(methodName, paramsType);  
  6. METHOD_CACHE.put(methodKey, method);  

通过上述步骤优化后,通过火焰图来看,效果是非常显著的:

注意字节码增强插桩选择

在做字节码增强时的增强点选择很重要,字节码增强添加Transformer后运行时分为两种情况:

  • transform:针对尚未被类加载器加载的类,如果添加Transformer,在类被加载时就会触发字节码的转换。
  • retransform:针对已经被类加载器加载的类,如果添加了Transformer,则需要被重新加载后再进行字节码的转换。

Java中被BootstrapClassLoader加载的类,如果想要进行字节码增强,就需要使用第二种字节码转换的方式,可想而知,如果重新加载类再进行转换必然没有在类第一次加载时就进行转换的效率高。

除上述原因之外,在增强启动类加载器加载的类时,由于双亲委派机制的限制(只能向上委托,不能向下委托),往往都是需要大量使用反射(用于调用其他类加载器加载的类)来实现增强逻辑。

上文中也讲到,不加节制的使用反射将会通过Java Agent程序严重影响被增强应用的性能,所以在开发Java Agent时,需要谨慎选择增强的类,非必要不增强被启动类加载器加载的类。

上述两点是在Java Agent开发过程中最容易发生

标签:增强,Java,字节,Agent,经验交流,服务,分享,优化,CPU
From: https://blog.csdn.net/s44359487yad/article/details/140681655

相关文章

  • 没发论文的注意啦!重磅更新!GWO-BP-AdaBoost预测!灰狼优化、人工神经网络与AdaBoost集成
      ......
  • 融合需求侧虚拟储能系统的楼宇微网优化调度(Matlab代码实现)
    ......
  • 基于粒子群优化算法的p-Hub选址优化(Matlab代码实现)
    目录1概述2运行结果2.1算例12.2算例2 2.3算例33参考文献4Matlab代码及详细文章1概述位置一分配问题起源于美国民用航空局(CAB),其航空公司航线的结构为轴辐系统(Hub-and-Spoke),以某一个主要的机场为轴(Hub),众多由此辐射而出的航线为辐(Spoke),在中枢的主......
  • 使用ElasticSearch优化Java应用的搜索功能
    使用ElasticSearch优化Java应用的搜索功能大家好,我是微赚淘客系统3.0的小编,是个冬天不穿秋裤,天冷也要风度的程序猿!在现代应用开发中,搜索功能是用户体验的关键部分。传统的数据库查询在处理大量数据时往往显得效率低下,而ElasticSearch则提供了一种高效、可扩展的解决方案来优化搜......
  • 深入理解淘客返利系统中的消息队列系统设计与优化
    深入理解淘客返利系统中的消息队列系统设计与优化大家好,我是微赚淘客系统3.0的小编,是个冬天不穿秋裤,天冷也要风度的程序猿!今天我们来深入探讨淘客返利系统中的消息队列系统设计与优化。消息队列在分布式系统中的应用已经非常广泛,对于淘客返利系统来说,消息队列能帮助我们更......
  • 前端必修技能:高手进阶核心知识分享 - CSS 选择器
    前端必修技能:高手进阶核心知识分享-CSS选择器CSS(层叠样式表)提供了多种选择器,用于选择要应用样式的HTML元素。CSS选择器用于选择你想要的元素的样式的模式。看了上面的图,你发现就算你不知道选择器名字叫什么,属于哪一种,但不知不觉的,你其实已经习惯了其中的很多种选择器......
  • 优化代码质量:PyCharm插件在代码检查中的妙用
    优化代码质量:PyCharm插件在代码检查中的妙用PyCharm,作为业界领先的集成开发环境(IDE),提供了强大的代码编辑、调试和分析工具。其中,代码质量检查是确保代码健康的重要环节。PyCharm通过各种插件支持代码质量检查,帮助开发者发现潜在的错误、代码风格问题以及改进代码结构的机会......
  • 改进的灰狼优化算法(GWO)(附完整matlab代码)
    1.灰狼优化算法灰狼优化算法作为一种高效率群体智能优化算法,其结构简单,收敛速度快,调节参数少,在时间序列预测,机械设计,结构设计,聚类分析等工程问题上都有着十分广泛的应用。但是在应用过程中发现,其存在种群多样性差,后期收敛速度缓慢,容易陷入局部最优以及局部搜索和全局搜索不均......
  • 【启明智显分享】基于国产Model3芯片的7寸触摸屏助力智慧医疗,电子床头屏提升护理交互
    未来医院必然是以信息化为基础,以物联网为特征,以医疗为核心的服务型医院。病房作为医院的重要服务场所,成为智慧医院建设的重要一环。为提高医护人员与患者的互动交流,给医疗注入智慧元素,让患者享受智能服务,启明智显提出了将国产工业级HMI芯片Model3应用于医疗床头屏的HMI方案......
  • Java中string对象是如何实现的?string对象的优化过程
    1.基本实现Java中的String类是一个final类,这意味着它不能被继承。它内部使用一个字符数组(char[])来存储实际的字符序列。这个字符数组是私有的,并且不能被外部直接访问或修改(除了通过String类提供的公共方法)。String类还包含一些字段来跟踪字符串的长度(value.length)和哈希......