首页 > 其他分享 >一个JVM参数,服务超时率降了四分之三

一个JVM参数,服务超时率降了四分之三

时间:2023-06-28 19:11:56浏览次数:44  
标签:使用率 Xmx 内存 JVM 率降 超时 CPU Xms

先说结论:通过优化Xms,改为和Xmx一致,使系统的超时率降了四分之三

image.png

1. 背景

一个同事说他负责的服务在一次上线之后超时率增加了一倍

image.png

2. 分析

2.1 机器的监控

首先找了一台机器,看了监控
image.png

上线后最明显的变化就是CPU使用率变高了

2.2 上线改动点

上线只加了简单的判断条件,按理不应该导致CPU变高成这样

2.3 CPU使用率随时间变低

又发现了一个奇怪的现象是,在没有上线的情况下,CPU使用率突然降低了,然后就一直保持着很低的状态
image.png

CPU降低之后,超时率也有所降低,现在大概能理解超时是和CPU使用率有关的,可能存在CPU瓶颈

2.4 依赖的服务

既然在没有上线的情况下,CPU使用率会降低,肯定有什么因素影响,猜测可能是依赖的服务,但依赖的服务太多,也没办法一个一个去看,哪个调用有问题

2.5 CPU和上线的关系

于是还是想在CPU使用率上找找问题,因为是上线导致的CPU使用率变高,所以看了其他上线时间的CPU使用率

还是有点思路了,发现大部分上线之后CPU使用率是会变高,部分没有(后面知道,因为有的上线本身就是优化,所以CPU使用率也会变低)

2.6 CPU和内存的关系

之前一直在关心CPU,突然看见了内存的使用率,一下就明白的问题所在,从下面这张图可以看出,CPU使用率和内存使用率是成反比的

image.png

使用Java的都应该清楚,内存不够的时候,就会STW,然后去启动GC线程去GC,而且一般情况GC线程数和CPU核数是一致的,这个服务也是如此,此时CPU使用率必然是会变高的

上面3月6号CPU突然下降的原因也是因为内存使用变高了,这是在没有上线的情况下

image.png

2.7 内存和JVM参数

可以看到上面的图中,CPU使用率高的时候,内存占用只有20%左右,为什么空这这么多内存不用呢?看下JVM参数

-Xmx16g -Xms4g -Xss1024K -XX:SurvivorRatio=8 -XX:MaxTenuringThreshold=10 -XX:MetaspaceSize=512m -XX:+UseG1GC -XX:MaxGCPauseMillis=200 -XX:ParallelGCThreads=8 -XX:ConcGCThreads=8 -XX:G1HeapRegionSize=16m -XX:-OmitStackTraceInFastThrow

Xms配的是4G,也就是说JVM在启动时只会申请4G内存,当内存不足时,先会GC,当GC释放的内存还不够时,才会去申请更大的内存

这样的策略一般是为了节省内存,但目前主流的都是容器,节省下来的内存也不会给别的服务利用,所以我们这可以直接把Xms改为16G

改完之后立即得到了很好的效果,超时率降了四分之三,不过后续因为内存使用率变高,超过了阈值,所以又把Xmx和Xms调整为14G,这个问题可以参考我之前的文章一次Java服务内存过高的分析过程

3. 总结

  1. Xms配置过小,JVM启动时内存不足导致GC线程占用过多CPU
  2. CPU不足时,超时率增加,CPU充足时,超时率降低
  3. Xms配置和Xmx一样,超时率降低

4. Xms和Xmx

这两个参数使用Java的都比较了解

Xmx: JVM的最大堆内存
Xms: JVM的初始堆内存

4.2 不一致的坏处

  1. 堆内存不够时更频繁的触发GC
  2. 当GC完之后内存也不够时,向系统申请内存,会花费更多的时间

4.2 改为一致的好处

为了避免在生产环境由于heap内存扩大或缩小导致应用停顿,降低延迟,同时避免每次垃圾回收完成后JVM重新分配内存。所以,-Xmx和-Xms一般都是设置相等的

在生产环境中把Xms和Xmx设为相同值也是Oracle官方推荐

5. 感想

这个配置从机器上线跑了两年一直如此,大部分时间性能没被充分利用,现在有二十台机器都是以这样一种低性能模式跑了这么久,这绝对是一种浪费

在第三篇参考文章中,有个人的评论正好和我相反,他认为一开始将Xms和Xmx设置为一样,而实际没用那么多,其实也是一种浪费,不过这是18年前的文章,那时容器没有兴起,服务都在一个物理机上面共享内存,会是有这种问题的

在容器中,节省的内存别的服务也利用不了,所以Xms最后设置和Xmx一致,但是容器也是可能造成浪费的,比如上面我把Xmx和Xms从16G改为14G,从监控上来看耗时和超时率下降了一点,也就是把这个容器的内存往下调一点也是可以接受的,具体调到多少合适也不太确定

不过这种优化很没有必要,内存是很便宜的,而且适量冗余一些性能也可以理解

既然这么多好处,为什么Oracle不默认把Xms和Xmx设置为一致呢,我觉得可能是目前还是有大部分Java应用都不是容器环境,全局考虑,没有这样做,或许后续Java会判断是否是容器环境来自动设置Xms

参考

[1] JVM的Xms和Xmx参数设置为相同值有什么好处?

[2] Is there any advantage in setting Xms and Xmx to the same value?

[3] large difference between -Xms and -Xmx values in jvm

标签:使用率,Xmx,内存,JVM,率降,超时,CPU,Xms
From: https://www.cnblogs.com/songjiyang/p/17512319.html

相关文章

  • JVM之指针压缩
    做java开发的同学一般都比较熟悉JVM,那么关于指针压缩这块内容是不是也了解呢,不熟悉的小伙伴往下看吧。首先说明,本文涉及的JDK版本是1.8,JVM虚拟机是64位的HotSpot实现为准。java对象结构了解指针压缩前,需要先搞懂java的实例对象在JVM虚拟机中内存结构是什么样的。java对象由......
  • 【JVM 方法区 04】
    从线程共享与否的角度划分“运行时数据区结构图”  线程共享区包括:堆、方法区(元空间)他两都会报OOM,现成私有化包括:虚拟机栈、本地方法栈、程序计数器(其中虚拟机栈和本地方法栈会抛StackOverflowError异常,程序计数器不会抛异常),还有一部分叫ThreadLocal一、栈、堆、方法区的交......
  • C#方法执行超时退出
    [HttpGet]publicasyncTask<string>TestUU(){ParentTsk().Wait();Console.WriteLine("HelloWorld!");return"ok";}publicasyncstaticTaskParentTsk()......
  • jvm-第四节垃圾回收器的细节实现
    垃圾回收器串讲及HostSpot的细节实现本篇知识点概况并发标记与三色标记gc并发下漏标问题与不同垃圾回收期下的处理方案(G1,Cms对比)跨代引用安全点与安全区域gc参数(了解)其他的垃圾回收期(了解)并发标记与三色标记三色标记诞生的历史:在三色标记之前有一个标记清除算法,根据可达性,可达设......
  • jvm-第四节垃圾回收器的细节实现
    #垃圾回收器串讲及HostSpot的细节实现本篇知识点概况并发标记与三色标记gc并发下漏标问题与不同垃圾回收期下的处理方案(G1,Cms对比)跨代引用安全点与安全区域gc参数(了解)其他的垃圾回收期(了解)并发标记与三色标记三色标记诞生的历史:在三色标记之前有一个标记清除算法......
  • JVM中的-Xms 、-Xmx 参数该如何设置
    在Java虚拟机(JVM)中,-Xms和-Xmx都是用来设置JVM堆内存大小的参数。其中,-Xms用于设置JVM启动时分配的初始堆内存大小,而-Xmx用于设置JVM堆内存的最大可用空间。默认情况下,-Xms参数的值为物理内存的1/64,-Xmx参数的值为物理内存的1/4。在设置这两个参数时,需要根据具体应......
  • JVM 类加载机制
    加载过程其中验证,准备,解析合称链接加载通过类的完全限定名,查找此类字节码文件,利用字节码文件创建Class对象.验证确保Class文件符合当前虚拟机的要求,不会危害到虚拟机自身安全.准备进行内存分配,为static修饰的类变量分配内存,并设置初始值(0或null).不包含final修饰的静态......
  • 事务超时异常:org.springframework.transaction.TransactionTimedOutException: Transa
    报错如下:代码如下:Controllerimportcom.zwh.service.impl.TimeOutService;importlombok.extern.slf4j.Slf4j;importorg.springframework.beans.factory.annotation.Autowired;importorg.springframework.web.bind.annotation.GetMapping;importorg.springframework.w......
  • 关于.net4.0使用WhenAny实现Task超时机制
    .net4.0想要使用await/async语法糖必须要引用:Microsoft.BclMicrosoft.Bcl.Async Microsoft.Bcl.Build可以从nuget引用此三个包publicstaticasyncTask<TResult>TryRunWithTimeoutAsync<TResult>(thisFunc<TResult>function,intdueTime){//......
  • JVM_简介
    1.JVM_体系JVM组成部分1.类加载器2.运行时数据区3.执行引擎4.本地方法库JVM执行流程1.类加载器把Java代码转换为字节码2.运行时数据区把字节码加载到内存中,不能直接交给底层系统去执行3.执行引擎将字节码翻译为底层系统指令,再交由CPU去执行4.CPU执行,调用其他语言的本......