首页 > 其他分享 >系统稳定性—OutOfMemoryError常见原因及解决方法

系统稳定性—OutOfMemoryError常见原因及解决方法

时间:2022-09-01 18:22:41浏览次数:113  
标签:space 常见 稳定性 线程 内存 JVM OutOfMemoryError class native

JVM内存严重不足时,就会抛出java.lang.OutOfMemoryError错误。本文总结了常见的OOM原因及其解决方法,如下图所示。如有遗漏或错误,欢迎补充指正。

一、Java heap space

Java heap space(堆内存溢出),当堆内存(Heap Space)没有足够空间存放新创建的对象时,就会抛出java.lang.OutOfMemoryError: Java heap space错误(根据实际生产经验,可以对程序日志中的OutOfMemoryError配置关键字告警,一经发现,立即处理)。

1.1 原因分析

Java heap space错误产生的常见原因可以分为以下几类:

  • 请求创建一个超大对象,通常是一个大数组。
  • 超出预期的访问量/数据量,通常是上游系统请求流量飙升,常见于各类促销/秒杀活动,可以结合业务流量指标排查是否有尖状峰值。
  • 过度使用终结器(Finalizer),该对象没有立即被GC
  • 内存泄漏(Memory Leak),大量对象引用没有释放,JVM无法对其自动回收,常见于使用了File等资源没有回收。

相关拓展:一个线程oom,进程里其他线程还能运行吗?

1.2 解决方案

针对大部分情况,通常只需要通过增加-Xms(初始堆大小)和-Xmx(最大堆大小)参数的大小来调高JVM堆内存空间即可。如:set JAVA_OPTS= -Xms1024m -Xmx1024m-Xms-Xmx设置一样,是因为防止内存抖动)。如果仍然没有解决,可以参考以下情况做进一步处理:

  • 如果是超大对象,可以检查其合理性,比如是否一次性查询了数据库全部结果,而没有做结果数限制。
  • 如果是业务峰值压力,可以考虑添加机器资源,或者做限流降级。
  • 如果是内存泄漏,需要找到持有的对象,修改代码设计,比如关闭没有释放的连接。

二、GC overhead limit exceeded

Java进程花费98%以上的时间执行GC,但只恢复了不到2%的内存,且该动作连续重复了5次,就会抛出java.lang.OutOfMemoryError:GC overhead limit exceeded错误。简单地说,就是应用程序已经基本耗尽了所有可用内存,GC也无法回收。

此类问题的原因与解决方案跟Java heap space非常类似,可以参考上文。

三、Permgen space

Permgen space(方法区内存溢出),该错误表示永久代(Permanent Generation)已用满,通常是因为加载的class数目太多或体积太大。

3.1 原因分析

永久代存储对象主要包括以下几类:

  • 加载/缓存到内存中的class定义,包括类的名称,字段,方法和字节码;
  • 常量池;
  • 对象数组/类型数组所关联的class
  • JIT编译器优化后的class信息。

PermGen的使用量与加载到内存的class的数量/大小正相关。

3.2 解决方案

根据Permgen space报错的时机,可以采用不同的解决方案,如下所示:

  • 程序启动报错,修改-XX:MaxPermSize启动参数,调大永久代空间。
  • 应用重新部署时报错,很可能是没有应用没有重启,导致加载了多份class信息,只需重启JVM即可解决。
  • 运行时报错,应用程序可能会动态创建大量class,而这些class的生命周期很短暂,但是JVM默认不会卸载class,可以设置-XX:+CMSClassUnloadingEnabled-XX:+UseConcMarkSweepGC这两个参数允许JVM卸载class

如果上述方法无法解决,可以通过jmap命令dump内存对象jmap -dump:format=b,file=dump.hprof <process-id>,然后利用Eclipse MAT功能逐一分析开销最大的classloader和重复class

四、Metaspace

JDK 1.8使用Metaspace替换了永久代(Permanent Generation),该错误表示Metaspace已被用满,通常是因为加载的class数目太多或体积太大。

此类问题的原因与解决方法跟Permgen space非常类似,可以参考上文。需要特别注意的是调整Metaspace空间大小的启动参数为-XX:MaxMetaspaceSize

五、Unable to create new native thread

每个Java线程都需要占用一定的内存空间,当JVM向底层操作系统请求创建一个新的native线程时,如果没有足够的资源分配就会报此类错误。

5.1 原因分析

JVMOS请求创建native线程失败,就会抛出Unable to create new native thread,常见的原因包括以下几类:

  • 线程数超过操作系统最大线程数ulimit限制。
  • 线程数超过kernel.pid_max(只能重启)。
  • native内存不足。

该问题发生的常见过程主要包括以下几步:

  1. JVM内部的应用程序请求创建一个新的Java线程;
  2. JVM native方法代理了该次请求,并向操作系统请求创建一个native线程;
  3. 操作系统尝试创建一个新的native线程,并为其分配内存;
  4. 如果操作系统的虚拟内存已耗尽,或是受到32位进程的地址空间限制,操作系统就会拒绝本次native内存分配;
  5. JVM将抛出java.lang.OutOfMemoryError: Unable to create new native thread错误。

5.2 解决方案

  • 升级配置,为机器提供更多的内存;
  • 降低Java Heap Space大小;
  • 修复应用程序的线程泄漏问题;
  • 限制线程池大小;
  • 使用-Xss参数减少线程栈的大小;
  • 调高OS层面的线程最大数:执行ulimia -a查看最大线程数限制,使用ulimit -u xxx调整最大线程数限制。
ulimit -a
.... 省略部分内容 .....
max user processes              (-u) 16384

六、Out of swap space?

该错误表示所有可用的虚拟内存已被耗尽。虚拟内存(Virtual Memory)由物理内存(Physical Memory)和交换空间(Swap Space)两部分组成。当运行时程序请求的虚拟内存溢出时就会报Out of swap space?错误。

6.1 原因分析

该错误出现的常见原因包括以下几类:

  • 地址空间不足;
  • 物理内存已耗光;
  • 应用程序的本地内存泄漏(native leak),例如不断申请本地内存,却不释放。
  • 执行jmap -histo:live <pid>命令,强制执行Full GC;如果几次执行后内存明显下降,则基本确认为Direct ByteBuffer问题。

6.2 解决方案

根据错误原因可以采取如下解决方案:

  • 升级地址空间为64bit;
  • 使用Arthas检查是否为Inflater/Deflater解压缩问题,如果是,则显式调用end方法。
  • Direct ByteBuffer问题可以通过启动参数-XX:MaxDirectMemorySize调低阈值。
  • 升级服务器配置/隔离部署,避免争用。

七、Kill process or sacrifice child

有一种内核作业(Kernel Job)名为Out of Memory Killer,它会在可用内存极低的情况下“杀死”(kill)某些进程。OOM Killer会对所有进程进行打分,然后将评分较低的进程“杀死”,具体的评分规则可以参考Surviving the Linux OOM Killer

不同于其他的OOM错误,Kill process or sacrifice child错误不是由JVM层面触发的,而是由操作系统层面触发的。

7.1 原因分析

默认情况下,Linux内核允许进程申请的内存总量大于系统可用内存,通过这种“错峰复用”的方式可以更有效的利用系统资源。

然而,这种方式也会无可避免地带来一定的“超卖”风险。例如某些进程持续占用系统内存,然后导致其他进程没有可用内存。此时,系统将自动激活OOM Killer,寻找评分低的进程,并将其“杀死”,释放内存资源。

7.2 解决方案

八、Requested array size exceeds VM limit

JVM限制了数组的最大长度,该错误表示程序请求创建的数组超过最大长度限制。

JVM在为数组分配内存前,会检查要分配的数据结构在系统中是否可寻址,通常为Integer.MAX_VALUE - 2

此类问题比较罕见,通常需要检查代码,确认业务是否需要创建如此大的数组,是否可以拆分为多个块,分批执行。

九、Direct buffer memory

Direct buffer memory(堆外内存),Java允许应用程序通过Direct ByteBuffer直接访问堆外内存,许多高性能程序通过Direct ByteBuffer结合内存映射文件(Memory Mapped File)实现高速IO

9.1 原因分析

Direct ByteBuffer的默认大小为64MB,一旦使用超出限制,就会抛出Direct buffer memory错误。

9.2 解决方案

  • Java只能通过ByteBuffer.allocateDirect方法使用Direct ByteBuffer,因此,可以通过Arthas等在线诊断工具拦截该方法进行排查。
  • 检查是否直接或间接使用了NIO,如nettyjetty等。
  • 通过启动参数-XX:MaxDirectMemorySize调整Direct ByteBuffer的上限值。
  • 检查JVM参数是否有-XX:+DisableExplicitGC选项,如果有就去掉,因为该参数会使System.gc()失效。
  • 检查堆外内存使用代码,确认是否存在内存泄漏;或者通过反射调用sun.misc.Cleanerclean()方法来主动释放被Direct ByteBuffer持有的内存空间。
  • 内存容量确实不足,升级配置。

参考文章

  1. 系统稳定性——OutOfMemoryError常见原因及解决方法
  2. OutOfMemoryError

标签:space,常见,稳定性,线程,内存,JVM,OutOfMemoryError,class,native
From: https://www.cnblogs.com/ciel717/p/16185066.html

相关文章

  • Flink常见面试题总结
     1、面试题一:应用架构问题:公司怎么提交的实时任务,有多少JobManager、TaskManager?解答:(1)我们使用yarnsession模式提交任务;另一种方式是每次提交都会创建一个新......
  • Content-type的几种常见类型
    原文地址  https://www.cnblogs.com/mzhaox/p/11263946.html1、application/x-www-form-urlencoded  1)浏览器的原生form表单  2)提交的数据按照key1=val1&key2=v......
  • Content-type常见类型
    一、content-type是什么?为什么?干什么?Content-type是Http的实体首部字段,在request的请求行(或response的状态码)之后,也是首部的一部分。用于说明请求或返回的消息主体是用何......
  • 前端安全-常见攻击手段及预防措施
    原文链接:https://www.cnblogs.com/yalong/p/16638754.html常见攻击手段如下:XSSCrossSiteScripting跨站脚本攻击,直接简写就是CSS,为了跟样式的CSS做区分,所以称为X......
  • PTA/PAT 机试常见模板
    机试常见模板说明:常见的如树的层次遍历、中序遍历、前序遍历、后序遍历以及根据前/后+中序遍历推导出二叉树的结构的题目本次未整理;Dijkstra+DFS准备单独整理一下并查......
  • 利器 | AppCrawler 自动遍历测试实践(三):动手实操与常见问题汇总
    ⬇️点击“下方链接”,提升测试核心竞争力!>>更多技术文章分享和免费资料领取上两篇文章介绍了自动遍历的测试需求、工具选择和AppCrawler的环境安装、启动及配置文件字......
  • Camera常见缩略语总结
    AA:自动校准工艺ABCC(AssistedBadClusterCorrection):辅助坏点族校正ABF(AdaptiveBayerFilter):自适应拜尔滤波器,Raw域单帧降噪。先经过BilateralFilter去除噪声和边......
  • OpenSergo & CloudWeGo 共同保障微服务运行时流量稳定性
    作者:宿何微服务运行时稳定性的问题微服务的稳定性一直是开发者非常关注的话题。随着业务从单体架构向分布式架构演进以及部署方式的变化,服务之间的依赖关系变得越来越复......
  • iOS自动化真机测试验证环境过程中常见问题解析
    ⬇️点击“下方链接”,提升测试核心竞争力!>>更多技术文章分享和免费资料领取本章节主要讲解iOS自动化真机配置以及在iOS真机执行自动化时常见问题与解决方法。真机使......
  • 【付费推广】常见问题合集,焦点展台与任务管理
    焦点展台Q1:当有多个app竞争展示焦点展台的时候,是按照什么来展示?焦点展台的展示与算法逻辑强相关,在投放界面主要受出价影响,在应用本身,主要受相关性影响。任务管理Q1:推广......