首页 > 系统相关 >Linux PSI--Pressure Stall Information

Linux PSI--Pressure Stall Information

时间:2024-07-18 18:40:21浏览次数:15  
标签:Information PSI -- 0.00 some pressure full 内存

Google在在Android11及之后版本的LMKD中,使用了psi作为杀进程的策略,本文简单介绍下psi。

转载自使用PSI(Pressure Stall Information)监控服务器资源_Linux_gameneedless_InfoQ写作社区

1.概述

当 CPU、内存或 IO 设备争夺激烈的时候,系统会出现负载的延迟峰值、吞吐量下降,并可能触发内核的 OOM Killer。PSI(Pressure Stall Information) 字面意思就是由于资源(CPU、内存和 IO)压力造成的任务执行停顿。PSI 量化了由于硬件资源紧张造成的任务执行中断,统计了系统中任务等待硬件资源的时间。我们可以用 PSI 作为指标,来衡量硬件资源的压力情况。停顿的时间越长,说明资源面临的压力越大。

如果持续监控 PSI 指标并绘制变化曲线图,可以发现吞吐量下降与资源短缺的关系,让用户在资源变得紧张前,采取更主动的措施,例如将任务迁移到其他服务器,杀死低优先级的任务等。

这允许最大限度地提高硬件利用率,而不会牺牲工作负载的健康状况或冒着诸如 OOM 终止等重大中断的风险。

2.pressure 文件接口

CPU、内存和 IO 的压力信息导出到了 /proc/pressure/ 目录下对应的文件,你可以使用 cat 命令查询资源的压力统计信息:

$ cat /proc/pressure/cpu 
some avg10=0.03 avg60=0.07 avg300=0.06 total=8723835

$ cat /proc/pressure/io 
some avg10=0.00 avg60=0.00 avg300=0.00 total=56385169
full avg10=0.00 avg60=0.00 avg300=0.00 total=54915860

$ cat /proc/pressure/memory 
some avg10=0.00 avg60=0.00 avg300=0.00 total=149158
full avg10=0.00 avg60=0.00 avg300=0.00 total=34054

内存和 IO 显示了两行指标:some 和 full,CPU 只有一行指标 some。关于 some 和 full 的定义下一节解释。

2.1 some 和full

some 指标说明一个或多个任务由于等待资源而被停顿的时间百分比。在下图的例子中,在最近的 60 秒内,任务 A 的运行没有停顿,而由于内存紧张,任务 B 在运行过程中花了 30 秒等待内存,则 some 的值为 50%。



some 表明了由于缺乏资源而造成至少一个任务的停顿。

full 指标表示所有的任务由于等待资源而被停顿的时间百分比。在下图的例子中,在最近的 60 秒内,任务 B 等待了 30 秒的内存,任务 A 等待了 10 秒内存,并且和任务 B 的等待时间重合。在这个重合的时间段 10 秒内,任务 A 和 任务 B 都在等待内存,结果是 some 指标为 50%,full 指标为 10/60 = 16.66%



full 表明了总吞吐量的损失,在这种状态下,所有任务都在等待资源,CPU 周期将被浪费。

请注意,some 和 full 的计算是用整个时间窗口内累计的等待时间,等待时间可以是连续的,也可能是离散的。

理解了 some 和 full 的含义,就明白了 CPU 为什么没有 full 指标,因为不可能所有的任务都同时饿死在 CPU 上,CPU 总是在执行一个任务。



3.PSI 阈值监控

用户可以向 PSI 注册触发器,在资源压力超过自定义的阈值时获得通知。一个触发器定义了特定时间窗口内最大累积停顿时间,例如,在任何 500ms 的窗口内,累计 100ms 的停顿时间会产生一个通知事件。

如何向 PSI 注册触发器呢?打开 /proc/pressure/ 目录下资源对应的 PSI 接口文件,写入想要的阈值和时间窗口,然后在打开的文件描述符上使用 select()poll() 或 epoll() 方法等待通知事件。写入 PSI 接口文件的数据格式为:

<some|full> <停顿阈值> <时间窗口>

阈值和时间窗口的单位都是微秒(us)。内核接受的窗口大小范围为 500ms 到 10 秒。

举个例子,向 /proc/pressure/io 写入 "some 500000 1000000",代表着在任何 1 秒的时间窗口内,如果一个或多个进程因为等待 IO 而造成的时间停顿超过了阈值 500ms,将触发通知事件。

当用于定义触发器的 PSI 接口文件描述符被关闭时,触发器将被取消注册。

我们通过一个例子演示触发器的使用:

#include <errno.h>
#include <fcntl.h>
#include <stdio.h>
#include <poll.h>
#include <string.h>
#include <unistd.h>

int main() {
      const char trig[] = "some 500000 1000000";
      struct pollfd fds;
      int n;

      fds.fd = open("/proc/pressure/io", O_RDWR | O_NONBLOCK);
      if (fds.fd < 0) {
              printf("/proc/pressure/io open error: %s\n",
                      strerror(errno));
              return 1;
      }
      fds.events = POLLPRI;

      if (write(fds.fd, trig, strlen(trig) + 1) < 0) {
              printf("/proc/pressure/io write error: %s\n",
                      strerror(errno));
              return 1;
      }

      printf("waiting for events...\n");
      while (1) {
              n = poll(&fds, 1, -1);
              if (n < 0) {
                      printf("poll error: %s\n", strerror(errno));
                      return 1;
              }
              if (fds.revents & POLLERR) {
                      printf("got POLLERR, event source is gone\n");
                      return 0;
              }
              if (fds.revents & POLLPRI) {
                      printf("event triggered!\n");
              } else {
                      printf("unknown event received: 0x%x\n", fds.revents);
                      return 1;
              }
      }

      return 0;
}

在服务器上编译并运行该程序,如果当前服务器比较空闲,我们会看到程序一直在等待 IO 压力超过阈值的通知:

$ sudo ./monitor 
waiting for events...

我们为服务器制造点 IO 压力,生成一个 5G 大小的文件:

$ dd if=/dev/zero of=/home/mazhen/testfile bs=4096 count=1310720

再回到示例程序的运行窗口,会发现已经收到事件触发的通知:

$ sudo ./monitor
waiting for events...
event triggered!
event triggered!
event triggered!
event triggered!
event triggered!
...

4.PSI应用案例

Facebook 是因为一些实际的需求开发了 PSI。其中一个案例是为了避免内核 OOM(Out-Of-Memory) killer 的触发。

应用在申请内存的时候,如果没有足够的 free 内存,可以通过回收 Page Cache 释放内存,如果这时 free 内存还是不够,就会触发内核的 OOM Killer,挑选一个进程 kill 掉释放内存。这个过程是同步的,申请分配内存的进程一直被阻塞等待,而且内核选择 kill 掉哪个进程释放内存,用户不可控。因此,Facebook 开发了用户空间的 OOM Killer 工具 oomd

oomd 使用 PSI 阈值作为触发器,在内存压力增加到一定程度时,执行指定的动作,避免最终 OOM 的发生。oomd 作为第一道防线,确保服务器工作负载的健康,并能自定义复杂的清除策略,这些都是内核做不到的。

5.cgroup v2

当打开kernel的配置CONFIG_CGROUP=y且挂载cgroup2文件系统的时候,就可以跟踪cgroup 内任务的 PSI,这样就可以知道容器内 CPU、内存和 IO 的真实压力情况,进行更精细化的容器调度,在资源利用率最大化的同时保证任务的延迟和吞吐量。

每个子目录中包含cpu.pressurememory.pressure, 和 io.pressure files,格式与/proc/pressure/文件一致。

标签:Information,PSI,--,0.00,some,pressure,full,内存
From: https://www.cnblogs.com/linhaostudy/p/18310233

相关文章

  • 【Linux网络编程-7】epoll边沿触发
    非阻塞recvEAGAIN、EWOULDBLOCK错误码值11返回值含义>0接收字节数0接收FIN包,连接被对端断开-1(errno==EAGAIN||EWOULDBLOCK)表示还有数据未读。反之,则表示发生了错误。//epollServer.cpp#include<stdio.h>#include<stdlib.h>#include<string.h>#in......
  • mongo索引类型
    要创建单字段索引,请使用以下原型:db.<collection>.createIndex({<field>:<sortOrder>})复合索引要创建复合索引,请使用下列 db.collection.createIndex()方法: db.<collection>.createIndex({<field1>:<sortOrder>,<field2>:<sortOrder&......
  • 基于Python语言的入门算法和数据结构(持续更新中,求关注一波)[链表 栈 队列 复杂度 操作]
    这篇文章主要是讲的Python语言的算法,本人还在不断记笔记中,文章也会持续更新,内容比较浅薄,请大家指教另外推荐一个比较好用的记笔记的软件Typora,自己已经使用很久了,感觉不错。。。虽然但是还是有欠缺。目录第一章算法概述1.1什么是数据结构?01数据结构都有哪些组成方式02......
  • MySQL与地震学:地震波形数据的实时分析宝典
    ......
  • Math 263 Department Of Mathematics
    DepartmentOf MathematicsMath 263CalculusIIISummer II 2024CourseOutlinePrerequisite: A grade of C or better in Math 262 or Math 266; or appropriate skill level demonstrated through the math placement process.This final co......
  • PiT : 基于池化层Pooling layer的Vision Transformer
        CNN的降维原理;随着深度的增加,传统CNN的通道维数增加,空间维数减少。经验表明,这样的空间降维对变压器结构也是有益的,并在原有的ViT模型的基础上提出了一种新的基于池的视觉变压器(PiT)。1.引言        ViT与卷积神经网络(CNN)有很大的不同。将输入图像......
  • Datawhale AI 夏令营——CPU部署大模型(LLM天池挑战赛)——Task2与3学习笔记
        Task2的任务是组队+寻找灵感,这里不作阐述;Task3的任务是实现RAG应用,阅读文档并观看卢哥的直播后,结合个人经验做个分享。    运行大语言模型,对LLM使用的加深,我们发现,在使用过程中,大模型会有很多幻觉出现。为了解决幻觉,科研人员提出了各种各样的方案......
  • 打造丰富AI生态体验 三星Galaxy Z Fold6|Z Flip6及生态新品中国发布
    7月17日,三星电子举行Galaxy新品中国发布会,正式面向中国市场推出第六代折叠屏手机三星GalaxyZFold6与GalaxyZFlip6。同步登陆国内的还有诸多智能穿戴新品,包括三星GalaxyRing、GalaxyWatch7、GalaxyWatchUltra以及三星GalaxyBuds3系列。作为三星在折叠屏领域的前沿科技成果......
  • 在华为平板上安装microG的方法
    注意事项注意:本博客已默认您可以访问外国网站,请遵守国家相关法律规定合法合规上网。本教程适用于在华为Matepad11上安装microG服务。本人成功在Matepad11(鸿蒙4.2)上安装microG,但并不保证100%成功。本人也是尝试了网上的很多方法才成功的。在折腾microG的时候,其实并不需要电脑,......
  • 【2024】springboot O2O生鲜食品订购
     博主介绍:✌CSDN新星计划导师、Java领域优质创作者、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于Java技术领域和学生毕业项目实战,高校老师/讲师/同行前辈交流✌技术范围:SpringBoot、Vue、SSM、HTML、Jsp、PHP、Nodejs、Python、爬虫、数据可视化、小程序、安卓app、大......