首页 > 其他分享 >大厂性能测试监控指标及分析调优指南

大厂性能测试监控指标及分析调优指南

时间:2023-12-29 20:11:49浏览次数:41  
标签:指南 性能 调优 大厂 JVM 优化 CPU 内存

一、哪些因素会成为系统的瓶颈

  • CPU:如果存在大量的计算,他们会长时间不间断的占用CPU资源,导致其他资源无法争夺到CPU而响应缓慢,从而带来系统性能问题,例如频繁的FullGC,以及多线程造成的上下文频繁的切换,都会导致CPU繁忙,一般情况下CPU使用率<75%比较合适。
  • 内存:Java内存一般是通过jvm内存进行分配的,主要是用jvm中堆内存来存储Java创建的对象。内存的读写速度非常快,但是内存空间又是有限的,当内存空间被占满,对象无法回收时,就会导致内存溢出或内存泄漏。
  • 磁盘I/O:磁盘的存储空间要比内存存储空间大很多,但是磁盘的读写速度比内存慢,虽然现在引入SSD固态硬盘,但是还是无法跟内存速度相比。
  • 网络:带宽的大小,会对传输数据有很大影响,当并发量增加时,网络很容易就会成为瓶颈。
  • 异常:Java程序,抛出异常,要对异常进行捕获,这个过程要消耗性能,如果在高并发的情况下,持续进行异常处理,系统的性能会受影响。
  • 数据库:数据库的操作一般涉及磁盘I/O的读写,大量的数据库读写操作,会导致磁盘I/O性能瓶颈,进而导致数据库操作延迟。

当在并发编程的时候,经常会用多线程操作同一个资源,这个时候为了保证数据的原子性,就要使用到锁,锁的使用会带来上下文切换,从而带来性能开销,在JDK1.6之后新增了偏向锁、自旋锁、轻量级锁、锁粗化、锁消除。

二、哪些指标做为衡量系统的性能

1.RT响应时间

  • 数据库响应时间,即数据库操作的时间
  • 服务端响应时间,服务端包括Nginx分发的请求所消耗的时间及服务端程序执行所消耗的时间。
  • 网络响应时间,网络传输,网络硬件需要对传输的请求进行解析所消耗的时间
  • 客户端响应时间,一般Web、App客户端,消耗时间可以忽略不计,但是如果客户端存在大量的逻辑处理,消耗的时间有能能就会变长。

2.TPS吞吐量

  • 磁盘吞吐量:IOPS(Input/Output Per Second)每秒的输入输出量,这种是单位时间内系统能处理的I/O请求数量,I/O请求通常为读或写数据操作请求,关注随机读写性能,适用于随机读写频繁的应用,如小文件存储,邮件服务器。数据吞吐量,这种是单位时间可以传输的数据量,对于大量顺序读写频繁的应用,传输大量连续数据,例如视频编辑。
  • 网络吞吐量:指网络传输时没有丢帧的情况下,设备能够接受的最大数据速率。网络吞吐量不仅跟带宽有关系,还跟CPU处理能力、网卡、防火墙、以及I/O等紧密联系,吞吐量的大小由网卡的处理能力、内部程序算法以及带宽大小决定。

3.资源使用率

  • CPU使用率,首先可以先了解CPU的基本信息,包括物理CPU的个数、单个CPU的核数,然后可以通过命令查看使用率,vmstat、mpstat、top
  • 内存使用率,free -m、vmstat、top
  • 磁盘I/O, iostat、 iotop
  • 网络I/O,netstat、ifconfig、tcpstat

 

三、性能测试注意的问题

我们在做性能测试的时候,系统的运行会越来越快,后面的访问速度比我们第一次访问的速度快了好几倍,这是因为Java语言编译的顺序是,.java文件先编译为.class文件,然后通过解释器将.class的字节码转换成本地机器码后,才能运行。

为了节约内存和执行效率,代码最初被执行时,解释器会率先解释执行这段代码。随着代码被执行的次数增多,虚拟机发现某个方法或代码运行的特别频繁,就被认定为热点代码(Hot Spot Code)。

为了提高热点代码的执行效率,在运行时虚拟机将会通过即时编译器(JIT)把这些代码编译成为本地平台相关的机器码,然后储存在内存中,之后每次运行代码时,直接从内存中获取。这样就会导致第一次系统运行慢,后面访问的速度快几倍。

在做性能测试的时候,每次测试处理的数据集都是一样的,但是结果却有差异,这是因为测试时,伴随着很多不稳定因素,比如机器其他进程的影响、网络波动以及每个阶段JVM垃圾回收的不同等。我们可以通过多次测试,将测试结果求平均,只要保证平均值在合理范围之内,并且波动不是很大,这种情况,性能测试就算通过。

 

四、定位性能问题的时候,可以使用自下而上的策略分析排查

当我们进行压测之后,我们会输出一份性能测试报告,其中包括,RT、TPS、TP99,被压服务器的CPU、内存、I/O,以及JVM的GC频率。通过这些指标可以发现性能瓶颈,我们可以采用自下而上的方式进行分析。

1. 首先从操作系统层面,查看系统的CPU、内存、I/O、网络的使用率是否异常,再通过命令查找异常日志,最后通过日志分析,找到导致瓶颈的问原因。

2. 还可以从Java应用的JVM层面,查看JVM的垃圾回收频率以及内存分配情况是否存在异常,分析垃圾回收日志,找到导致瓶颈的原因。

3. 如果系统和JVM层面都没有出现异常情况,然后可以从应用服务业务层查看是否存在性能瓶颈,例如,Java编程问题,读写数据库瓶颈等。

五、优化性能问题的时候,可以使用自上而下的策略进行优化

整体的调优顺序,我们可以从业务调优到编程调优,最后再到系统调优。

1.应用层调优

首先是优化代码,代码问题往往会因为消耗系统资源而暴漏出来,例如代码导致内存溢出,使JVM内存用完,而发生频繁的FullGC,导致CPU偏高。

其次是优化设计,主要是优化业务层和中间件层代码,例如可以采用代理模式,放在频繁调用的创建对象的场景里,共享一个创建对象,减少创建对象的消耗。

再次是优化算法,选择合适的算法降低时间复杂度。

2.中间件调优:MySQL调优

1)表结构与索引优化

主要是对数据库设计、表结构设计以及索引设置维度进行的优化,设计表结构的时候,考虑数据库的水平与垂直的拓展能力,提前规划好将来数据量、读写量的增长,规划好分库分表方案。对字段选择合适的数据类型,优先选用较小的数据结构。

2)SQL语句优化

主要是对SQL语句进行的优化,使用explain来查看执行计划,来查看是否使用了索引,使用了哪些索引。也可以使用Profile命令分析语句执行过程中各个分步的耗时。

3)MySQL参数优化

主要是对MySQL服务的配置进行优化,例如连接数的管理,对索引缓存、查询缓存、排序缓存等各种缓存大小进行优化

4)硬件及系统配置

对硬件设备和操作系统设置进行优化,例如调整操作系统参数、禁用swap、增加内存、升级固态硬盘。

3.系统调优

首先是操作系统调优,Linux操作的内核参数设置可以进行调优,已达到提供高性能的目的。

其次,JVM调优,设置合理的JVM内存空间,以及垃圾回收算法来提高性能,例如,如果业务逻辑会创建大对象,我们就可以设置,将大的对象直接放到老年代中,这样可以减少年轻代频发发生YongGC,减少CPU的占用时间。

4.调优的策略

首先是时间换取空间,有的时候系统对查询速度要求不高,对存储空间要求较高,这个时候我们可以考虑用时间换取空间。

其次是空间换取时间,用存储空间提升访问速度,典型的就是MySQL的分库分表策略,MySQL表单数据存储千万以上的时候,读写性能就会下降,这个时候我们可以将数据进行拆分,以达到查询的时候,每个表的数据是少量的,以达到提升性能的目的。

5.兜底策略

系统调优后,仍然还会存在性能问题,这个时候我们需要有兜底策略, 首先是限流,对系统的入口设置最大访问限制,同时采取断熔措施,返回没有成功的请求。其次是横向扩容,当访问量超过某一个阈值时,系统可以自动横向增加服务。

最后如果你想学习软件测试和需要软件测试资料,欢迎加入笔者的交流群:731789136,里面可以免费领取软件测试+自动化测试资料+软件测试面试宝典+简历模版+实战项目+面试刷题工具和大佬答疑解惑,我们一起交流一起学习!

搜索

复制

标签:指南,性能,调优,大厂,JVM,优化,CPU,内存
From: https://www.cnblogs.com/nhb1234/p/17935620.html

相关文章

  • 自我介绍&博客指南&博客更新日志
    自我介绍只要大家都知道我的隐私,那么我就没有隐私,因为我的隐私是公共资源,所以我也不会被骗。本人真名:张一田专用网名:Alloverzyt,端木傲忍入站必读:我所爱之人,敬祝本人博客及动态免责声明学历简述:成都市棕北小学,成都市石室联合中学,成都市石室中学博客指南本博客主要分为......
  • JVM-实战篇-GC调优
    1GC调优GC调优指的是对垃圾回收进行调优。GC调优的主要目标是避免由垃圾回收引起的程序性能下降。GC调优的核心分为三部分:通过JVM参数的设置;特定垃圾回收器的JVM参数的设置;解决由频繁的FULLGC引起的程序性能问题。GC调优没有唯一的标准答案,重点学习调优的工具和方法。......
  • 2025考研指南丨考研复习计划
    2020考研指南丨考研复习计划2020-03-23   2019考研进入复试的尾声阶段,2020的考研学子已经准备好了武器准备战斗,今天安徽文都小编就为2020考研党准备一份考研日历吧。2019年3月份确定目标院校和专业根据自己学习的专业、学习基础、个人兴趣等因素,初步确定考......
  • 深度学习高效训练指南
    深度学习是人工智能领域中一种重要的技术,它通过模拟人脑神经网络的工作方式,使得计算机能够自动学习和识别各种数据模式。在深度学习中,模型训练是至关重要的一个环节,它直接决定了模型性能的好坏。因此,如何高效地进行深度学习模型训练,成为了一个备受关注的话题。一、选择合适的模型结......
  • JVM-实战篇-内存调优
    1内存溢出和内存泄漏概念:内存泄漏:在Java中如果不在使用一个对象,但是该对象依然在GCROOT的引用链上,这个对象就不会被垃圾回收器回收,这种情况就称之为内存泄漏。内存泄漏绝大多数情况都是由堆内存泄漏引起的,所以后续没特殊说明讨论的均为堆内存泄漏。若持续发生内存泄漏,不管有......
  • 避坑指南之财务共享服务中心的质量管理
    企业集团财务共享服务中心建设与运营,是财务管理变革落地的有效途径,也是财务数智化转型的必经路径,在提升工作效率、降低财务成本、支持战略扩张、促进管理转型等方面均取得了一定的成效。在此基础上,财务共享服务中心在面向所服务业务单元和业务部门时需持续提升工作效率、降低运营成......
  • 「Java开发指南」如何用MyEclipse搭建JSF/Primefaces和Spring(二)
    本教程将引导大家完成为JavaServerFaces(JSF)生成软件组件的过程,在本文中您将学习到如何:从数据库表到现有项目搭建配置支持JSF2.0的服务器部署搭建的应用程序在上文中,我们介绍了如何创建一个Web项目、从数据库表搭建及配置服务器等,本文将继续介绍如何部署应用程序!更多MyE......
  • Noon是什么?探索中东电商平台Noon的入驻优势和开店指南
    随着互联网的普及和电子商务的蓬勃发展,越来越多的企业和商家开始将业务拓展到在线平台上。对于跨境卖家来说,中东市场目前还处于蓝海,发展潜力巨大,越早入驻的卖家获益可能越大。一、Noon是什么?Noon电商平台成立于2017年,总部位于阿联酋迪拜,覆盖阿联酋、沙特阿拉伯和埃及三个国家,其最......
  • Spring Boot 2.x 到 3.2 的全面升级指南
    SpringFramework是一种流行的开源企业级框架,用于创建在JavaVirtualMachine(JVM)上运行的独立、生产级应用程序。而SpringBoot是一个工具,可以让使用Spring框架更快、更轻松地开发Web应用程序和微服务。随着SpringBoot的不断发展,开发人员必须跟上最新的升级和变化。......
  • Google Java 编程风格指南
    目录前言术语说明指南说明源文件基础文件名文件编码:UTF-8特殊字符空白字符特殊转义序列非ASCII字符源文件结构许可证或版权信息package语句import语句import不要使用通配符不要换行顺序和间距类声明只有一个顶级类声明类成员顺序重载:永不分离格式大括号使用大括号(即使大括号仅是......