首页 > 编程语言 >Sermant类隔离架构:解决JavaAgent场景类冲突的实践

Sermant类隔离架构:解决JavaAgent场景类冲突的实践

时间:2023-09-08 14:34:45浏览次数:75  
标签:JavaAgent 架构 隔离 插件 冲突 Sermant 加载

本文分享自华为云社区《Sermant类隔离架构解析——解决JavaAgent场景类冲突的实践》,作者:华为云开源。

 

一、JavaAgent场景为什么要注意类冲突问题?

类冲突问题并非仅存在于JavaAgent场景中,在Java场景中一直都存在,该问题通常会导致运行时触发NoClassDefFoundError、ClassNotFoundException、NoSuchMethodError等异常。

从使用场景来看,基于JavaAgent技术所实现的工具,往往用于监控、治理等场景,并非企业核心业务程序。如果在使用时引入类冲突问题,可能会造成核心业务程序故障,得不偿失,所以避免向核心业务程序引入类冲突是一个JavaAgent工具的基本要求。

还有一个重要原因是在Java应用中可以于开发态采用依赖的升降级、统一依赖架构治理等手段解决该问题。但基于JavaAgent技术实现的工具作用于运行态,无法在开发态就和需要被增强的Java应用进行统一的依赖管理,所以引入类冲突问题的可能性更大。

二、JavaAgent场景如何解决该问题?

无论是在Java应用中,还是在JavaAgent场景,修复类冲突的逻辑都是一致的,就是避免引入会冲突的类。不同点在于基于JavaAgent技术实现的各式各样的工具,往往都具有业务无关性,在设计和实现之初,并不会为特定的Java应用类型而定制。对于JavaAgent程序而言,需要被字节码增强的应用即是黑盒,所以无法像Java应用那样去梳理依赖结构,排除、升级依赖项,统一进行依赖架构治理。并且JavaAgent往往在运行时使用,所以只能通过保障依赖绝对隔离的方式来避免引入冲突。

为何会产生类冲突,本文重点不在此,简单讲是因为我们在Java中因为重复引入传递依赖、类的加载顺序无法控制等问题,导致引入了相同【类加载器和全限定类名(Fully Qualified Class Name)都相同】但又表现不同【因为类版本不同而导致的类逻辑不一致】的类。所以为了避免冲突,我们就需要避免在运行时引入相同的类,如何让JavaAgent引入的类和宿主完全不相同,从全限定类名和类加载器下手才是根本:

  • 基于maven shade plugin进行类隔离

该插件是Maven提供用于构建打包的插件,通过maven-shade-plugin的‘Relocating Classes’能力,来修改某些类的全限定类名。

Sermant类隔离架构:解决JavaAgent场景类冲突的实践_服务治理

此方法的原理便是通过改变全限定类名来让JavaAgent引入的类和Java程序的类完全不可能出现相同的情况,从根本上避免类冲突。但是我们在使用一种框架,或者使用一种产品时,往往约定要优于配置,基于maven-shade-plugin通过配置去改变全限定类名并不是一个简单的办法,在使用时就需要针对JavaAgent所涉及依赖进行梳理,在maven-shade-plugin中进行配置,并且需要在每次依赖变更后重新筛查。对持续迭代极不友好。

采用上述方法也对Debug造成阻碍,在Debug过程中被重定向的类的断点将不可达,严重降低调试效率。

  • 基于类加载机制进行类隔离

基于maven-shade-plugin修改全限定类名往往用来解决单点的类冲突问题,虽然也能做到将JavaAgent所引入类完全隔离,但并不是一个好的解决方案。

基于类冲突原理,我们还可以通过限制两个相同全限定类名的类的加载器来让其不同,如Tomcat那样,通过自定义类加载器破坏Java的双亲委派原则,来隔离JavaAgent引入的类。这样既避免了繁重的配置,也避免了依赖变更而带来的影响。但也有其弊端,在JavaAgent场景中往往会利用到Java应用程序的类,所以基于类加载器的隔离机制,往往就让开发者只能通过反射等操作完成此类逻辑,这会对性能和开发效率产生不良影响。

三、Sermant如何做?

Sermant是基于Java字节码增强技术的无代理服务网格,不仅是一个开箱即用的服务治理工具,也同样是一个易用的服务治理能力开发框架。

“把简单留给别人,把麻烦留给自己!”

Sermant从设计之初就遵循上述重要原则,并规划了全方面的类隔离架构,利用Java的类加载机制对自身各模块做了充分类隔离,让使用者和开发者无需考虑因使用JavaAgent而导致类冲突问题,并且也针对开发者的使用场景做了优化,可以在开发中无缝使用被增强Java程序的类,避免因反射等行为带来的不利影响。Sermant是如何实现的呢,下文将对Sermant类隔离架构进行详细解析。

1) Sermant的类隔离架构解析

如上文所说,Sermant不仅是个开箱即用的服务网格,也同样是一个易用的服务治理能力开发框架,服务治理能力是多样的包括但不限于流量治理、可用性治理、安全治理等,所以Sermant采用插件化的架构来让用户能更灵活的接入和开发服务治理能力。

 在Sermant的整体架构下,我们不仅需要保证不向宿主服务引入类冲突问题,避免在开箱即用时对宿主服务造成负面影响,同时也需要保障框架与插件、插件与插件之间不会引入类冲突问题,避免插件开发者因为和其他服务治理插件产生类冲突问题而苦恼,所以Sermant设计了如下类隔离结构:

  • SermantClassLoader,破坏双亲委派,用于加载Sermant框架核心逻辑,并在AppClassLoader下隔离出Sermant的类加载模型。避免受到宿主服务自身复杂类加载结构的影响,减少应对不同类加载结构服务的适配需求。
  • FrameworkClassLoader,破坏双亲委派,主要作用是隔离Sermant核心能力所引入的三方依赖,避免向宿主服务及服务治理插件引入类冲突问题。目前的主要场景 ①用于隔离Sermant的日志系统,避免对宿主服务的日志系统产生影响 ②隔离Sermant框架的核心服务(心跳、动态配置、统一消息网关)所需三方依赖。
  • PluginClassLoader,遵循双亲委派,主要用于隔离Sermant各服务治理插件,避免不同服务治理插件之间产生类冲突问题。
  • ServiceClassLoader,破坏双亲委派,主要用于隔离插件中的依赖,通过该类加载器加载插件服务的相关lib(插件服务会在插件加载时被Sermant初始化),开发者可任意引入三方依赖,无需关心对插件主逻辑的影响。

其中的PluginClassloader和ServiceClassloader不仅在类隔离中起到至关重要的作用,更是一种长远的考虑,为每个插件设计独立的类加载器,使得Sermant可以平滑的进行插件动态安装&卸载以及插件热更新。

2) 插件隔离的特殊之处

在上文中所述类隔离架构中,可以看到一处特别的逻辑(红框处),这也是Sermant中PluginClassLoader(插件类加载器)的特殊之处,在实际使用过程中,每个插件类加载器会在其中为每个线程维护一个局部的类加载器(localLoader)。

PluginClassLoader遵循双亲委派,在类加载过程中先委派SermantClassLoader加载Sermant的核心类,再通过自身加载插件类,当需要使用宿主服务的类时,则会委托局部类加载器(其Parent可以是任何类加载器,不局限于图中所指示)进行加载。用于让字节码增强的切面逻辑(Sermant拦截器)可以获取到宿主服务所使用的类,这有利于服务治理场景,其逻辑如下图所示:

Sermant类隔离架构:解决JavaAgent场景类冲突的实践_Sermant_02

通过重写类加载器loadClass逻辑,在执行Sermant拦截器时,配置一个局部的类加载环境,让Sermant拦截器中的逻辑可以顺利的使用宿主服务加载的类,这样开发服务治理插件时无需通过反射获取宿主服务的类,从而提升服务治理能力的开发效率和最终运行时的性能,同时还避免了宿主服务和服务治理插件的类冲突。

(代码实现可以在开源仓库进行查看:)

3) 实战效果如何

因接入JavaAgent而导致的依赖冲突、类冲突问题乃是业界通病,但如果有Sermant的类加载机制加持,该问题则可从根源避免,不再让广大JavaAgent的使用者和开发者深受其害!

《拜托,别在 agent 中依赖 fastjson 了》所述案例,是一个因JavaAgent而产生的依赖冲突问题的典型场景,其应用通过AppClassLoader加载到了Agent中fastjson的类FastJsonHttpMessageConverter, 该类依赖spring-web.jar的类GenericHttpMessageConverter,但由于AppClassLoader的搜索路径中并没有spring-web.jar(fastjson通过provide方式引入),最终加载类失败。

但如基于Sermant开发则不会产生该问题,基于Sermant开发JavaAgent和Spring应用一起运行时的类隔离架构如下:

Sermant类隔离架构:解决JavaAgent场景类冲突的实践_Java_03

在此类加载器的结构下,有两个关键的不同:

  1. 由于Sermant改变了类加载的结构,通过Agent引入的fastjson已不在AppClassLoader的搜索路径中,因此Agent中的FastJsonHttpMessageConverter类不再会被Spring应用通过AppClassLoader加载到,从根源上避免了文中所触发的类冲突问题。
  2. 当运行时若Agent需要使用spring-web的类GenericHttpMessageConverter时,则可通过Sermant提供的局部类加载环境成功通过LaunchedUrlClassloader成功从Spring应用中获取。

正是因为此两点差异,让基于Sermant开发的能力可以在和应用之间进行类隔离,避免通过JavaAgent引入类冲突问题,同时可以在运行时使用应用所引入的类。

四、总结

Sermant是基于Java字节码增强技术的无代理服务网格,其利用Java字节码增强技术为宿主应用程序提供服务治理功能。因深知JavaAgent场景中类冲突问题会造成的影响,Sermant在设计之初便为此规划了全面的类隔离架构。经历多次迭代,如今Sermant的类隔离架构已可以轻松的应对各种复杂的类加载环境。

除了保证类隔离,Sermant作为服务网格需要重点关注自身的服务治理能力对宿主服务带来的性能影响,所以也通过独有设计避免因为过度隔离带来的性能损耗。同时Sermant还在构建开放的服务治理插件开发生态,并提供高效的服务治理能力开发框架。在类隔离设计时也考虑到了易用性、开发效率提升等方面的问题。并未因为类隔离机制的存在,而降低开发的效率,增大学习曲线的陡峭程度。

Sermant 作为专注于服务治理领域的字节码增强框架,致力于提供高性能、可扩展、易接入、功能丰富的服务治理体验,并会在每个版本中做好性能、功能、体验的看护,广泛欢迎大家的加入。

Sermant类隔离架构:解决JavaAgent场景类冲突的实践_服务治理_04

 点击关注,第一时间了解华为云新鲜技术~

标签:JavaAgent,架构,隔离,插件,冲突,Sermant,加载
From: https://blog.51cto.com/u_15214399/7409680

相关文章

  • 【客户案例】星融元:脊叶架构(Spine-Leaf)的云化园区网络部署实践
    前言各行业数字化转型进程加快,作为基础设施的园区网络也面临着升级压力。为此,星融元通过将先进成熟的云网络建设理念引入园区场景,推出了“云化园区网络解决方案”,帮助客户网络实现架构级的深层优化。星融元云化园区网络解决方案介绍深入底层架构的全面变革,星融元发布云化园区网络解......
  • arm架构docker安装nacos
    前言搞了个hk1box,装了armbian系统,想用这个当服务器调试微服务,需要安装nacos。尝试安装非docker版本的nacos,去github下载arm版本的并且放到linux下面,运行的时候报tomcat错误,装了tomcat后还是报错,改了很多设置老是跑不了,于是决定用docker版本。1、挂载目录mkdir-p/home/nacos/l......
  • 深入理解消息队列与事件驱动架构
    什么是消息队列?消息队列是一种通信模式,用于将消息从一个发送者传递到一个或多个接收者。它们允许应用程序之间以异步、松耦合的方式进行通信。消息队列通常包括消息代理(如RabbitMQ、ApacheKafka)和消息消费者。为什么使用消息队列?使用消息队列的好处包括:解耦应用程序:消息队列允许......
  • Tomcat架构学习
    1、Tomcat的两个核心功能:处理Socket连接,负责负责网络字节流与Request和Response对象的转化。加载和管理Servlet,以及处理具体Request请求。Tomct设计了两个核心组件连接器(Connector)和容器(Container)来分别做这两件事情。连接器负责对外交流,容器负责对内处理。单独的连接器或者容......
  • 有关lvs高可用架构
    我们可以用多台LVS来做高可用。这里又会有两种选择:一是主备模式/主主模式,可以利用Keepalived的VRRP功能,但是大规模生产环境中,用集群模式更好,因为其同时提高了伸缩性和可用性,而前者只解决了可用性(当然,也更简单),LVS是基于IP层的负载均衡,它通过修改数据包的目标IP或MAC地址来实现负......
  • 系统设计(架构师)指南5设计一致哈希(HASHING)
    5设计一致哈希(HASHING)要实现横向扩展,就必须在服务器之间高效、均匀地分配请求/数据。一致哈希是实现这一目标的常用技术。不过,首先让我们深入了解一下这个问题。5.1重散列(rehashing)问题如果有n台缓存服务器,平衡负载的常用方法是使用下面的散列方法:serverIndex=hash(key)%N......
  • 抖音的互联网架构与系统设计分析
    引言抖音是目前全球最受欢迎的短视频分享平台之一,它能够支持海量用户上传、播放和分享视频。在这篇文章中,我们将深入分析抖音的互联网架构,了解其系统设计和技术实现,并思考在类似场景下如何构建高可用的系统。1.抖音的互联网架构概述抖音的互联网架构是一个典型的大型分布式系统,它......
  • 从一台电脑怎么到的分布式架构?
    从单台服务器到分布式服务器的演化过程1.单台服务器并发量过大就会出现各种问题2.把服务器和数据库分离我把应用和数据库分别部署到不同的服务器上,缓解了负载压力3.应用服务器集群出现的问题是:a.需要使用session和cookie维护用户:session用来跟踪用户状态,cookie用来在......
  • Heritrix架构学习笔记(三)
    3、Frontier链接制造工厂在heritrix-1.12.1/docs/articles/developer_manual/frontier.html下可找到Heritrix的官方文档的一个Frontier例子:/***AsimpleFrontierimplementationfortutorialpurposes*/publicclassMyFront......
  • Heritrix架构学习笔记(一)
    1、抓取起点CrawlOrder在heritrix-1.12.1/docs/apidocs目录下可以查看其API:org.archive.crawler.datamodelClassCrawlOrderjava.lang.Objectjavax.management.Attributeorg.archive.crawler.settings.Typeorg.archive.crawler.settings.Complex......