首页 > 其他分享 >糟糕,CPU100%了!!!

糟糕,CPU100%了!!!

时间:2024-02-26 09:45:00浏览次数:24  
标签:糟糕 CPU100% kafka 导入 线程 使用率 数据 cpu

前言

cpu使用率100%问题,是一个让人非常头疼的问题。因为出现这类问题的原因千奇百怪,最关键的是它不是必现的,有可能是系统运行了一段时间之后,在突然的某个时间点出现问题。

今天特地把我和同事,之前遇到过的cpu使用率100%的问题,总结了一下,给有需要的朋友一个参数。

 

1 一次性获取的数据太多

我之前参与过餐饮相关的业务系统开发,当时我所在的团队是菜品的下游业务。

当时菜品系统有菜品的更新,会发kafka消息,我们系统订阅该topic,就能获取到最近更新的菜品数据。

同步菜品数据的功能,上线了一年多的时候,没有出现过什么问题。

但在某一天下午,我们收到了大量CPU100%的报警邮件。

追查原因之后发现,菜品系统出现了bug,我们每次获取到的都是全量的菜品数据,并非增量的数据。

一次性获取的数据太多。

菜品修改还是比较频繁的,也就是说我们系统,会频繁的读取和解析大量的数据,导致CPU不断飙升。

其根本原因是频繁的full gc

2 kafka自动确认

之前我们的餐饮子系统中间,是通过消息中间件:kafka进行通信的。

上游系统中产生了数据,写入db之后,然后把相关业务单据的id,通过kafka消息发送到broker上。

下游系统订阅相关topic的消息,获取业务单据的id,然后调用上游系统的业务查询接口,获取相关业务数据。

刚开始为了方便,我们消费订单消息时,kafka的确认机制,使用的是自动确认(可以少写点代码)。

刚开始问题不大。

随着业务的发展,用户量越来越多,每天产生的kafka消息也越来越多。

终于开始爆出了cpu使用率100%的问题。

后来,我们把kafka的consumer,消费消息后改成手动确认,cpu使用率100%的问题就被解决了。

3 死循环

在实际工作中,可能每个开发都写过死循环的代码。

死循环有两种:

  1. 在while、for、forEach循环中的死循环。
  2. 无限递归。

这两种情况,程序会不停的运行,使用寄存器保存循环次数或者递归深度,一直占用cpu,导致cpu使用率飙升。

在使用JDK1.7时,还有些死循环比如多线程的环境下,往HashMap中put数据,可能会导致链表出现死循环

就会导致cpu不断飙高。

4 多线程导数据

之前我们组有位同事做了一个供应商excel数据导入功能。

该功能上线之后发现excel中数据只要稍微多一点,导入的耗时时间就会很长。

因为导入供应商相关的业务逻辑有些复杂,涉及了多张表,而且是单线程中一条条按顺序导入的。

那位同事为了提升导入数据的性能,将单线程导入,改成了使用线程池的多线程导入。

这样改造之后,excel数据导入的速度确实提升了很多。

但上线之后,却带来另外一个问题,即:CPU使用率一路飙升。

多线程导入数据,如果线程数量比较多,会存在大量线程上下文切换的过程,这个过程非常消耗CPU资源。

 

最近就业形式比较困难,为了感谢各位小伙伴对苏三一直以来的支持,我特地创建了一些工作内推群, 看看能不能帮助到大家。

你可以在群里发布招聘信息,也可以内推工作,也可以在群里投递简历找工作,也可以在群里交流面试或者工作的话题。

进群方式

添加苏三的私人微信:su_san_java,备注:博客园+所在城市,即可加入。

5 同步大量文件

我之前参与过游戏平台的开发。

游戏厂商的游戏接入我们平台,我们帮他们推广,赚了钱进行分成。

每一款游戏都有一个定制化的官网,域名、图片和样式都不一样。

当时出于性能考虑,我们当时使用了FreeMarker模板引擎,为每一款游戏都生成专门的html的静态官网。

当时提供了十几个不同的模板,可以给游戏的运营同学选择。

原本是没啥问题的。

但有一次节日活动,为了增加一些喜庆的元素,在每一个模板文件中都加了一些样式。

这就需要把所有游戏的官网,用新的模板重新生成一次了。

生成完毕之后,需要把所有的html文件,一次性同步到web服务器的指定目录下。

由于涉及到了大量文件的同步,导致存放文件的那台应用服务器CPU飙升的很高。

6 死锁

为了防止并发场景中,多个线程修改公共资源,导致的数据异常问题。

很多时候我们会在代码中使用synchronized或者Lock加锁。

这样多个线程进入临界方法或者代码段时,需要竞争某个对象或者类的锁,只有抢到相应的锁,才能访问临界资源。其他的线程,则需要等待,拥有锁的线程释放锁,下一次可以继续竞争那把锁。

有些业务场景中,某段代码需要线程获取多把锁,才能完成业务逻辑。

但由于代码的bug,或者释放锁的顺序不正确,可能会引起死锁的问题。

例如:

"pool-4-thread-1" prio=10 tid=0x00007f27bc11a000 nid=0x2ae9 waiting on condition [0x00007f2768ef9000]
java.lang.Thread.State: WAITING (parking)
at sun.misc.Unsafe.park(Native Method)
- parking to wait for  <0x0000000090e1d048> (a java.util.concurrent.locks.ReentrantLock$FairSync)
at java.util.concurrent.locks.LockSupport.park(LockSupport.java:186)

比如线程a拥有锁c,需要获取锁d,才能完成业务逻辑。

而刚好此时线程b拥有锁d,需要获取锁c,也能完成业务逻辑。

线程a等待线程b释放锁,而线程b等待线程a释放锁,两个线程都持有对方需要的锁,无法主动释放,就会出现死锁问题。

死锁会导致CPU使用率飙升。

7 正则匹配

不知道你使用过正则表达式没有?

有时候我们为了验证用户输入的手机号、邮箱、身份证号、网页地址是否合法。

通常情况下,会使用正则表达式,例如:

^([hH][tT]{2}[pP]://|[hH][tT]{2}[pP][sS]://)(([A-Za-z0-9-~]+).)+([A-Za-z0-9-~/])+$

这个正则表达式可以分为三个部分:

  • 第一部分匹配 http 和 https 协议。
  • 第二部分匹配 www. 字符。
  • 第三部分匹配许多字符。

一个写的不好的正则表达式,就可以导致cpu使用率一下子飚升。

其实这里导致 CPU 使用率高的关键原因就是:Java 正则表达式使用的引擎实现是NFA自动机,这种正则表达式引擎在进行字符匹配时会发生回溯

而一旦发生回溯,那其消耗的时间就会变得很长,有可能是几分钟,也有可能是几个小时,时间长短取决于回溯的次数和复杂度。

我们写的正则表达式,要尽量减少回溯。

 

最近就业形式比较困难,为了感谢各位小伙伴对苏三一直以来的支持,我特地创建了一些工作内推群, 看看能不能帮助到大家。

你可以在群里发布招聘信息,也可以内推工作,也可以在群里投递简历找工作,也可以在群里交流面试或者工作的话题。

进群方式

添加苏三的私人微信:su_san_java,备注:博客园+所在城市,即可加入。

8 耗时计算

有时候,我们的业务系统需要实时计算数据,比如:电商系统中需要实时计算优惠后的最终价格。

或者需要在代码中,从一堆数据中,统计汇总出我们所需要的数据。

如果这个实时计算或者实时统计的场景,是一个非常耗时的操作,并且该场景的请求并发量还不小。

就可能会导致cpu飙高。

因为实时计算需要消耗cpu资源,如果一直计算,就会一直消耗cpu资源。

 

最后说一句(求关注,别白嫖我)

如果这篇文章对您有所帮助,或者有所启发的话,帮忙扫描下发二维码关注一下,您的支持是我坚持写作最大的动力。
求一键三连:点赞、转发、在看。
关注公众号:【苏三说技术】,在公众号中回复:面试、代码神器、开发手册、时间管理有超赞的粉丝福利,另外回复:加群,可以跟很多BAT大厂的前辈交流和学习。

标签:糟糕,CPU100%,kafka,导入,线程,使用率,数据,cpu
From: https://www.cnblogs.com/12lisu/p/18033661

相关文章

  • 糟糕,被SimpleDateFormat坑到啦!| 京东云技术团队
    1.问题背景问题的背景是这样的,在最近需求开发中遇到需要将给定目标数据通过某一固定的计量规则进行过滤并打标生成明细数据,其中发现存在一笔目标数据的时间在不符合现有日期规则的条件下,还是通过了规则引擎的匹配打标操作。故而需要对该错误匹配场景进行排查,定位其根本原因所在......
  • 糟糕,接口被刷了,怎么办?
    前言在面试时,经常会被问一个问题:如何防止别人恶意刷接口?这是一个非常有意思的问题,防范措施挺多的。今天这篇文章专门跟大家一起聊聊,希望对你会有所帮助。1防火墙防火墙是网络安全中最基本的安全设备之一,主要用于防止未经授权的网络访问和攻击。防火墙可以防止的攻击行为包......
  • 从CPU100%高危故障到稳定在10%:一个月的优化之旅,成功上线!
    引言经过三个月的开发,项目通过了所有测试并上线,然而,我们发现项目的首页几乎无法打开,后台一直发生超时错误,导致CPU过度负荷。在这次项目开发过程中,我制定了一份详细的技术优化方案。考虑到客户无法提供机器硬件配置,我们只能从软件方面寻找解决方案,以满足客户的预期。同时,我还准备......
  • 糟糕的设计,这个 API 在 13 岁时被废弃了
    hi大家好,我是DHL。就职于美团、快手、小米。公众号:ByteCode,专注有用、有趣的硬核原创内容,Kotlin、性能优化、系统源码、图解算法、大厂面经。每个Android开发者,每年都要面对AndroidAPI革命性的改变,动不动就废弃一个API,然而新的API比旧的API更加糟糕。给开发者增加了很......
  • 糟糕!试用期被裁了
    如果你觉得找工作已经够难了?那么抱歉,接下来我说的这件事情可能更令你更糟心。什么事情呢?如题所见,就是“试用期被裁这件事”。每年都会有同学找到我,说自己被裁了,比如下面这些。同程旅行被裁:一家知名外企被裁:其他类似的同学还有很多,比如B站试用期被裁、小红书被裁、得物......
  • Linux【CPU100% 问题定位】
    一、场景     在我们项目部署上线的时候,我们是不是会经常去Linux服务器上查查服务器的CPU使用率,或者是运维经常会盯Linux的CPU使用率。如果CPU使用率一直100%,如何查找并解决问题?二、步骤    2.1、定位到进程        使用top和ps分析工具报告......
  • 吐槽一下依赖倒置这个糟糕的名字
    新手上来看见依赖倒置就迷糊,依赖这个词没问题,比如业务逻辑层依赖于数据库访问层。这没毛病。但是倒置这个词儿让人迷糊,这跟谁倒置了呀?把谁倒置了? 其实所谓的依赖倒置说的就是不管是业务逻辑层还是数据库访问层,都要面向接口编程。 我再翻译一下词啊,就是上面例子当中所谓的业......
  • 周二 历史上糟糕的一天
    对不起老师 我今天就像是已经毕业又被强行拉上考场的考生,全程被监考老师死死盯着,出一点无关紧要的小叉子就被破口大骂,骂完再告诉我是为了我好,我好个()()!去你()(),我()()有事就得自己憋着倒也无所谓,被事硬拉我是真烦烦死了今天我好想我爷爷奶奶 去()()()()()()()的为了我好 主键约束(PrimaryKeyC......
  • 离谱的审美,过度追求“瘦”的身材,这些糟糕的身材焦虑症离不开影视剧的贡献
    今天看到两个新闻:1.  2.  ============================================  曾几何时,影视剧都是要宣传社会正确价值观和健康审美的,谁知道今时今日的影视剧不但少有正能量反而成了很多“恶”的帮凶,这是不得不要人忧虑的。 或许减少贩卖身材焦虑的第一枪就应该打在那些影视剧上......
  • 离谱的审美,过度追求“瘦”的身材,这些糟糕的身材焦虑症离不开影视剧的贡献
    今天看到两个新闻:1.  2.  ============================================  曾几何时,影视剧都是要宣传社会正确价值观和健康审美的,谁知道今时今日的影视剧不但少有正能量反而成了很多“恶”的帮凶,这是不得不要人忧虑的。 或许减少贩卖身材焦虑的第一枪就应该......