首页 > 编程语言 >Java Agent场景性能测试分析优化经验分享

Java Agent场景性能测试分析优化经验分享

时间:2023-03-03 16:44:20浏览次数:51  
标签:增强 场景 服务 字节 性能 Agent Java

摘要:本文将以Sermant的SpringBoot 注册插件的性能测试及优化过程为例,分享在Java Agent场景如何进行更好的性能测试优化及在Java Agent下需要着重注意的性能陷阱。

作者:栾文飞 高级软件工程师

一、背景介绍

Sermant是一个主打服务治理领域的Java Agent框架,在服务治理中难免会有针对业务流量进行解析和处理的过程,此类服务治理能力将会对微服务的服务能力产生一定的性能影响,作为一个基于Java Agent技术做服务治理的框架,我们需要在保证服务治理能力生效的同时,极小的影响微服务原有的服务性能。

虽然基于Java Agent的服务治理和基于SDK的服务治理在其原理上有所不同,但也避免不了微服务治理过程中产生对微服务原有性能的影响,基于Java Agent服务治理方式的相较于SDK的服务治理方式免去了侵入式的代码开发,是一种运行时技术,所以还需要考虑更多方面性能优化问题,例如在启动时间,运行时增强性能开销等,本文将以Sermant的SpringBoot 注册插件的性能测试及优化过程为例,分享在Java Agent场景如何进行更好的性能测试优化及在Java Agent下需要着重注意的性能陷阱。

SpringBoot 注册插件为SpringBoot应用提供服务注册发现能力,可用于在不修改原有代码的前提下快速从ESB架构演进为微服务架构,在该插件中包含针对域名的替换能力,服务注册发现能力,请求的超时重试等,为架构的成功演进,原有架构中基于域名的请求调用,将会被基于注册信息的请求调用(通过该插件的服务注册发现能力,获取服务提供者注册的信息)所取代,如下图所示:

在域名处理的过程是必然会参与到调用过程中的,这是服务治理能力对业务性能影响的典型场景。

二、测试方案

众所周知,Java Agent程序和被增强应用运行时同进程,Java Agent程序最重要的是不能对被挂载的应用产生异常影响,导致应用不可用,所以Sermant在运行时的处理性能及稳定性等做多方面的测试考量。在针对微服务进行测试的过程中,我们往往只需要关注该微服务的性能即可,通过压力测试来检验微服务的服务提供能力,由于服务治理能力并不直接提供服务,我们更多地需要关注在开启服务治理能力时,对微服务本身服务提供能力的影响,所以我们在测试方案中需要进行对比测试来评估服务治理能力的好坏。

本对照测试中,我们通过压力测试让系统达到极限场景(consumer端的CPU已经到达瓶颈),来分析携带Sermant并启用服务治理能力时,对应用原有服务提供能力的影响,此处采用两种部署方案

  • 不携带Sermant,基于网关的场景,是架构改造前的运行模式
  • 携带Sermant的场景,是迁移后的微服务架构运行模式

注:在这种对比测试中,基于Java Agent的服务治理只需要对携带Java Agent程序和不携带Java Agent程序的场景进行对照测试即可,无需两套代码进行对照测试。

由于Java Agent程序和被增强应用处于统一进程,资源共享,基于上述两种部署方案进行测试,以不携带Java Agent程序作为测试分析的对照组,就可以很清晰的看出引入Java Agent程序后产生的影响,并可根据对照结果进行优化,应用于Sermant上,就可以很容易的分析出Sermant的服务治理能力对微服务本身服务提供能力带来的影响。

三、性能分析

由于需要针对应用发起的请求通过字节码增量的方式做域名的替换,SpringBoot 注册插件通过对HttpClient、Openfeign、Okhttp等http客户端进行了字节码增强,我们根据上一章节中的测试方案对该插件提供的服务治理能力进行了测试,下面我们以HttpClien为例通过CPU火焰图来讲述如何在Java Agent场景下分析性能瓶颈:

在性能调优过程中,我们可通过CPU火焰图来分析性能瓶颈,火焰图可以称之为性能问题分析的"X光",可以很一针见血的看出在程序运行中哪些代码片段产生了异常的CPU占用。可以参考《使用火焰图(FlameGraph)分析程序性能》进行学习,当然,采集CPU火焰图的方式很多,我们只需要学会如何看懂火焰图即可。

分析步骤

1. 找到字节码增强逻辑的CPU占用

在分析过程中,首先需要找到字节码增强时选中的被增强方法(本文场景增强方法为InternalHttpClient::doExecute),字节码增强需要被增强程序的原有方法调用触发,所以也可以很清晰的在CPU火焰图中可以看到,Sermant实现的逻辑调用栈在被增强方法之上,在字节码增强逻辑执行结束后,被增强方法还会继续执行。

所以除被增强方法执行的调用栈及CPU时间片占用外,皆为字节码增强所引入逻辑,在性能优化中需着重关注。

2. 分析异常占用

根据CPU火焰图原理,找出字节码增强部分,找出异常占用CPU时间片的调用栈,并进行程序的优化,如下图所示红框选择部分,皆为字节码增强中引入的逻辑,占用了非常多的CPU时间片,由于字节码增强程序和被增强程序,这种异常的占用,将会严重影响原程序的性能,在针对Java Agent场景的优化中可着重优化

通过上述步骤,我们可以一目了然的看到我们通过Java Agent程序引入的CPU额外占用,具体占用原因本文就不一一分析。

四、性能陷阱

基于上述两个章节的测试和分析方法,在本文的最后,列举出在Java Agent开发过程中经常会遇到的性能陷阱,这里也给出解决方式,可以在开发中注意:

减少反射使用

在字节码增强开发过程中,很多情况下,如果类加载器不同,针对被增强应用的类和方法往往需要通过反射去获取并使用,在我们的性能分析中,反射是一个CPU占用的巨大陷阱,在有些被BootstrapClassLoader加载的类增强时,甚至反射占用了一个方法调用30%以上的CPU事件片。

下图选中方法中,反射占用该方法调用中的大部分CPU时间片:

但是由于类加载器的限制,有些反射是必须要使用的,我们也可以通过一定的手段进行优化,比如缓存通过反射获取的类和方法,在字节码增强中,多次触发增强逻辑时减少反射占用CPU时间片非常有效。

Method method = METHOD_CACHE.get(methodKey);  
if (method != null) {  
 return Optional.of(method);  
}  
method = clazz.getDeclaredMethod(methodName, paramsType);  
METHOD_CACHE.put(methodKey, method);  

通过上述步骤优化后,通过火焰图来看,效果是非常显著的:

注意字节码增强插桩选择

在做字节码增强时的增强点选择很重要,字节码增强添加Transformer后运行时分为两种情况:

  • transform:针对尚未被类加载器加载的类,如果添加Transformer,在类被加载时就会触发字节码的转换。
  • retransform:针对已经被类加载器加载的类,如果添加了Transformer,则需要被重新加载后再进行字节码的转换。

Java中被BootstrapClassLoader加载的类,如果想要进行字节码增强,就需要使用第二种字节码转换的方式,可想而知,如果重新加载类再进行转换必然没有在类第一次加载时就进行转换的效率高。

除上述原因之外,在增强启动类加载器加载的类时,由于双亲委派机制的限制(只能向上委托,不能向下委托),往往都是需要大量使用反射(用于调用其他类加载器加载的类)来实现增强逻辑。

上文中也讲到,不加节制的使用反射将会通过Java Agent程序严重影响被增强应用的性能,所以在开发Java Agent时,需要谨慎选择增强的类,非必要不增强被启动类加载器加载的类。

上述两点是在Java Agent开发过程中最容易发生的向被增强应用引入的性能陷阱,除此之外,Java Agent也是由Java所开发,在开发过程中也需要注意不要引入常见的性能陷阱。

结束语

Sermant作为专注于服务治理领域的字节码增强框架,致力于提供高性能、可扩展、易接入的服务治理体验,并会在每个版本中做好性能、功能、体验的看护,广泛欢迎大家的加入。

Sermant官网:https://sermant.io

GitHub仓库地址:https://github.com/huaweicloud/Sermant

 

点击关注,第一时间了解华为云新鲜技术~

标签:增强,场景,服务,字节,性能,Agent,Java
From: https://www.cnblogs.com/huaweiyun/p/17176201.html

相关文章

  • javaWeb学习一
    web开发(web就是网页):静态webhtml、css提供给所有人看到数据不会改变动态web提供给所有人看到数据会改变,不同用户、不同时间和地点都会不同技术栈:Se......
  • 关于Javascript——Promise的一些理解
    Promise是一个构造函数,promise是通过Promise构造函数声明的对象。 promise对象用来“管理”一次异步任务。 通过newPromise()声明一个promise对象的时候需要传两个参......
  • 如何通过Java 代码设置 Word 文档页边距
    页边距是指页面的边线到文字的距离。通常可在页边距内部的可打印区域中插入文字和图形,也可以将某些项目放置在页边距区域中(如页眉、页脚和页码等)。在我们用的Word文档中,都会......
  • Java应用【Ⅻ】使用Java实现机器学习算法:聚类、分类、预测
    一、引言1、机器学习算法概述机器学习是一种人工智能技术,旨在通过使用数据和统计分析来让计算机系统自动改进性能。机器学习算法可分为三大类:聚类、分类和预测。聚类算法用......
  • java-mybatis
    1、添加依赖<dependencies><dependency><groupId>mysql</groupId><artifactId>mysql-connector-java</artifactId><ver......
  • android studio 打包发布 Cause: failed to decrypt safe contents entry: javax.cryp
    androidstudio打包发布错误:Cause:failedtodecryptsafecontentsentry:javax.crypto.BadPaddingException:Givenfinalblocknotproperlypadded.Suchissues......
  • 如何在 JavaScript 中使用媒体查询
    前言说起媒体查询想必大家最先想到的都是CSS中@media,没错,这是我们最常用的媒体查询方法,主要用来为我们的网站做适配处理。比如:h1{font-size:2rem;color:green;......
  • JavaScript模块化理解-CommonJS、AMD、CMD、UMD、ES6
    参考:JavaScript模块化-CommonJS、AMD、CMD、UMD、ES6前端模块化——彻底搞懂AMD、CMD、ESM和CommonJS 在JS早期,使用script标签引入JS,会造成以下问题:加载的时候阻塞......
  • 携程Java三面面经,已拿 offer!!
    分享一位读者投稿的携程校招Java岗位的面经。下面是正文。个人背景:双非本,机械专业转码。携程在正式面试之前,会有一个性格测试(40分钟)。性格测试之后,大概过一周进行笔试......
  • C# - ConcurrentDictionary 并发场景使用注意事项
    1自身作为Enumerable的遍历自身作为可遍历对象,键值对为元素进行遍历,是线程安全的,但不提供快照,遍历过程中集合产生变更会直接反馈至此次遍历过程中。但并不一定能够保障......