首页 > 其他分享 >IO模型介绍（select、poll、epoll）

IO模型介绍（select、poll、epoll）

时间：2024-03-28 11:14:15浏览次数：22  
标签：epoll 描述符 内核 IO connfd poll buf

什么是IO？

IO中的I就是input，O就是output,IO模型即输入输出模型,而比较常听说的便是磁盘IO,网络IO。

什么是操作系统的IO?

我们如果需要对磁盘进行读取或者写入数据的时候必须得有主体去操作，这个主体就是应用程序。 应用程序是不能直接进行一些读写操作(IO)的,因为用户可能会利用此程序直接或者间接的对计算机造成破坏,只能交给底层软件—操作系统.也就是说应用程序想要对磁盘进行读取或者写入数据,只能通过操作系统对上层开放的API来进行。在任何一个应用程序里面,都会有进程地址空间,该空间分为两部分,一部分称为用户空间(允许应用程序进行访问的空间),另一部分称为内核空间（只能给操作系统进行访问的空间，它受到保护）。

应用程序想要进行一次IO操作分为两个阶段:

•IO调用：应用程序进程向操作系统内核发起调用【1】。 •IO执行：操作系统内核完成IO操作【2】。

操作系统完成一次IO操作包括两个过程:

•数据准备阶段：内核等待I/O设备准备好数据(从网卡copy到内核缓冲区)【3】。 •数据copy阶段：将数据从内核缓冲区copy到用户进程缓冲区【4】。

应用程序一次I/O流程如下：

 


 

一个完整的IO过程包括以下几个步骤：

1.应用程序进程向操作系统发起IO调用请求。 2.操作系统准备数据，外部设备的数据通过网卡加载到内核缓冲区。 3.操作系统拷贝数据，即将内核缓冲区的数据copy到用户进程缓冲区。 
而一次IO的本质其实就是: 等待 + 拷贝

IO模型有哪些？

1.阻塞式 IO：

服务端为了处理客户端的连接和数据处理：

伪代码具体如下：

listenfd = socket();   // 打开一个网络通信套接字
bind(listenfd);        // 绑定
listen(listenfd);      // 监听
while(true) {
  buf = new buf[1024]; // 读取数据容器
  connfd = accept(listenfd);  // 阻塞 等待建立连接
  int n = read(connfd, buf);  // 阻塞 读数据
  doSomeThing(buf);  // 处理数据
  close(connfd);     // 关闭连接
}

上面的伪代码中我们可以看出，服务端处理客户端的请求阻塞在两个地方，一个是 accept、一个是 read ，我们这里主要研究 read 的过程，可以分为两个阶段：等待读就绪（等待数据到达网卡 & 将网卡的数据拷贝到内核缓冲区）、读数据。

阻塞IO流程如下：

 


 

2.非阻塞式 IO：

非阻塞式 IO 我们应该让操作系统提供一个非阻塞的 read() 函数，当第一阶段读未就绪时返回 -1 ，当读已就绪时才进行数据的读取。

非阻塞IO往往需要程序员循环的方式反复尝试读写文件描述符, 这个过程称为轮询(for(connfd : arr)). 这对CPU来说是较大的浪费, 一 般只有特定场景下才使用.

伪代码具体如下：

arr = new Arr[];
listenfd = socket();   // 打开一个网络通信套接字
bind(listenfd);        // 绑定
listen(listenfd);      // 监听
while(true) {
  connfd = accept(listenfd);  // 阻塞 等待建立连接
  arr.add(connfd);
}

// 异步线程检测 连接是否可读
new Tread(){
  for(connfd : arr){
    buf = new buf[1024]; // 读取数据容器
    // 非阻塞 read 最重要的是提供了我们在一个线程内管理多个文件描述符的能力
    int n = read(connfd, buf);  // 检测 connfd 是否可读
    if(n != -1){
       newThreadDeal(buf);   // 创建新线程处理
       close(connfd);        // 关闭连接 
       arr.remove(connfd);   // 移除已处理的连接
    }
  }
}

newTheadDeal(buf){
  doSomeThing(buf);  // 处理数据
}

所谓非阻塞 IO 只是将第一阶段的等待读就绪改为非阻塞，但是第二阶段的数据读取还是阻塞的，非阻塞 read 最重要的是提供了我们在一个线程内管理多个文件描述符的能力

非阻塞具体流程如下：

 


 

3. IO多路复用（select、poll、epoll）：

上面的实现看着很不错，但是却存在一个很大的问题，我们需要不断的调用 read() 进行系统调用，这里的系统调用我们可以理解为分布式系统的 RPC 调用，性能损耗十分严重，因为这依然是用户层的一些小把戏。

多路复用就是系统提供了一种函数可以同时监控多个文件描述符的操作，这个函数就是我们常说到的select、poll、epoll函数，可以通过它们同时监控多个文件描述符，只要有任何一个数据状态准备就绪了，就返回可读状态，这时询问线程再去通知处理数据的线程，对应线程此时再发起read()请求去读取数据。实际上最核心之处在于IO多路转接能够同时等待多个文件描述符的就绪状态,来达到不必为每个文件描述符创建一个对应的监控线程，从而减少线程资源创建的目的。

select：

select 是操作系统提供的系统函数，通过它我们可以将文件描述符发送给系统，让系统内核帮我们遍历检测是否可读，并告诉我们进行读取数据。

伪代码如下：

arr = new Arr[];
listenfd = socket();   // 打开一个网络通信套接字
bind(listenfd);        // 绑定
listen(listenfd);      // 监听
while(true) {
  connfd = accept(listenfd);  // 阻塞 等待建立连接
  arr.add(connfd);
}

// 异步线程检测 通过 select 判断是否有连接可读
new Tread(){
  while(select(arr) > 0){
    for(connfd : arr){
      if(connfd can read){
        // 如果套接字可读 创建新线程处理
        newTheadDeal(connfd);
        arr.remove(connfd);   // 移除已处理的连接
      }
    }
  }
}

newTheadDeal(connfd){
    buf = new buf[1024]; // 读取数据容器
    int n = read(connfd, buf);  // 阻塞读取数据
    doSomeThing(buf);  // 处理数据
    close(connfd);        // 关闭连接 
}

流程简图：

 


 

优点：

1.减少大量系统调用。

2.系统内核帮我们遍历检测是否可读。

存在一些问题：

• 每次调用需要在用户态和内核态之间拷贝文件描述符数组，但高并发场景下这个拷贝的消耗是很大的。

• 内核检测文件描述符可读还是通过遍历实现，当文件描述符数组很长时，遍历操作耗时也很长。

• 内核检测完文件描述符数组后，当存在可读的文件描述符数组时，用户态需要再遍历检测一遍。

poll：

• poll 和 select 原理基本一致，最大的区别是去掉了最大 1024 个文件描述符的限制。

• select 使用固定长度的 BitsMap，表示文件描述符集合，而且所支持的文件描述符的个数是有限制的，在 Linux 系统中，由内核中的 FD_SETSIZE 限制， 默认最大值为 1024，只能监听 0~1023 的文件描述符。

• poll 不再用 BitsMap 来存储所关注的文件描述符，取而代之用动态数组，以链表形式来组织，突破了 select 的文件描述符个数限制，当然还会受到系统文件描述符限制。

epoll：

epoll 主要优化了上面三个问题实现：

1.每次调用需要在用户态和内核态之间拷贝文件描述符数组，但高并发场景下这个拷贝的消耗是很大的。
方案：内核中保存一份文件描述符，无需用户每次传入，而是仅同步修改部分。
2.内核检测文件描述符可读还是通过遍历实现，当文件描述符数组很长时，遍历操作耗时也很长。
方案：通过事件唤醒机制唤醒替代遍历。
3.内核检测完文件描述符数组后，当存在可读的文件描述符数组时，用户态需要再遍历检测一遍。
方案：仅将可读部分文件描述符同步给用户态，不需要用户态再次遍历。

epoll 基于高效的红黑树结构，提供了三个核心操作：epoll_create、epoll_ctl、epoll_wait。

epoll_create：

用于创建epoll文件描述符，该文件描述符用于后续的epoll操作，参数size目前还没有实际用处，我们只要填一个大于0的数就行。

 


 

epoll_ctl:

epoll_ctl函数用于增加，删除，修改epoll事件，epoll事件会存储于内核epoll结构体红黑树中.

 


 

epoll_wait函数：

epoll_wait用于监听套接字事件，可以通过设置超时时间timeout来控制监听的行为为阻塞模式还是超时模式。

 


 

整体运转如下：

 


 

伪代码如下：

listenfd = socket();   // 打开一个网络通信套接字
bind(listenfd);        // 绑定
listen(listenfd);      // 监听
int epfd = epoll_create(...); // 创建 epoll 对象
while(1) {
  connfd = accept(listenfd);  // 阻塞 等待建立连接
  epoll_ctl(connfd, ...);  // 将新连接加入到 epoll 对象
}

// 异步线程检测 通过 epoll_wait 阻塞获取可读的套接字
new Tread(){
  while(arr = epoll_wait()){
    for(connfd : arr){
        // 仅返回可读套接字
        newTheadDeal(connfd);
    }
  }
}

newTheadDeal(connfd){
    buf = new buf[1024]; // 读取数据容器
    int n = read(connfd, buf);  // 阻塞读取数据
    doSomeThing(buf);  // 处理数据
    close(connfd);        // 关闭连接 
}

LT模式和ET模式：

LT模式：水平触发：
1.socket读触发：socket接收缓冲区有数据，会一直触发epoll_wait EPOLLIN事件，直到数据被用户读取完。 2.socket写触发：socket可写，会一直触发epoll_wait EPOLLOUT事件。
ET模式：边缘触发：
1.socket读触发：当被监控的 Socket 描述符上有可读事件发生时，服务器端只会从 epoll_wait 中苏醒一次，即使进程没有调用 read 函数从内核读取数据，也依然只苏醒一次，因此我们程序要保证一次性将内核缓冲区的数据读取完。 2.socket写触发：socket可写，会触发一次epoll_wait EPOLLOUT事件。
epoll为什么高效：
1.红黑树红黑树提高epoll事件增删查改效率。 2.回调通知机制:当epoll监听套接字有数据读或者写时，会通过注册到socket的回调函数通知epoll，epoll检测到事件后，将事件存储在就绪队列（rdllist）。 3.就绪队列：epoll_wait返回成功后，会将所有就绪事件存储在事件数组，用户不需要进行无效的轮询，从而提高了效率。

信号驱动IO:

多路转接解决了一个线程可以监控多个fd的问题，但是select采用无脑的轮询就显得有点暴力，因为大部分情况下的轮询都是无效的，所以有人就想，别让我总去问数据是否准备就绪，而是等你准备就绪后主动通知我,这边是信号驱动IO。

信号驱动IO是在调用sigaction时候建立一个SIGIO的信号联系，当内核准备好数据之后再通过SIGIO信号通知线程,此fd准备就绪，当线程收到可读信号后，此时再向内核发起recvfrom读取数据的请求，因为信号驱动IO的模型下,应用线程在发出信号监控后即可返回，不会阻塞，所以一个应用线程也可以同时监控多个fd。

异步 IO：

应用只需要向内核发送一个读取请求,告诉内核它要读取数据后即刻返回；内核收到请求后会建立一个信号联系，当数据准备就绪，内核会主动把数据从内核复制到用户空间，等所有操作都完成之后，内核会发起一个通知告诉应用，我们称这种模式为异步IO模型。

异步IO的优化思路是解决应用程序需要先后发送询问请求、接收数据请求两个阶段的模式，在异步IO的模式下，只需要向内核发送一次请求就可以完成状态询问和数拷贝的所有操作。

同步和异步区别：

同步和异步关注的是消息通信机制.

同步：就是在发出一个调用时，自己需要参与等待结果的过程,则为同步,前面四个IO都自己参与了,所以也称为同步IO.

异步：则指出发出调用以后,到数据准备完成,自己都未参与,则为异步IO。

标签：epoll,描述符,内核,IO,connfd,poll,buf
From： https://www.cnblogs.com/Jcloud/p/18101127

相关文章

  • axios配置
    //引入axiosimportaxiosfrom'axios'//引入qsimportqsfrom'qs'//根URlconstrootUrl=''//axios请求实例functionhttps(url,method,data,params,success,err){console.log(url);axios({method:method,......
  • 面试官：说说Spring中IoC实现原理？
    IoC（InversionofControl）即控制（权）反转，它是一种编程思想，它的核心理念是将对象的创建和管理权力从对象本身转移到外部的容器或框架。IoC的主要目的是降低代码之间的耦合度，提高代码的重用性、可测试性和灵活性。在IoC模式下，对象不需要自己创建或者查找它们所依赖的对象，这些工作由......
  • openGauss Session性能诊断
    Session性能诊断可获得性本特性自openGauss1.0.0版本开始引入。特性简介Session性能诊断提供给用户Session级别的性能问题诊断。客户价值查看最近用户Session最耗资源的事件。查看最近比较占资源的SQL把资源都消耗在哪些等待事件上。查看最近比较耗资源的Session把资源......
  • IO
    IO所有输入流的基类：InputStream/Reader所有输出流的基类：OutputStream/Writer字节流InputStream常用方法：read(),skip(),available(),close()FileInputStreamDataInputStream:用于读取指定类型数据，不能单独使用，必须结合其它流，比如 FileInputStream 。Object......
  • SAP BTP云上一个JVM与DB Connection纠缠的案例
    前言最近在CF(CloudFoundry)云平台上遇到一个比较经典的案例。因为牵扯到JVM（app进程）与数据库连接两大块，稍有不慎，很容易引起不快。在云环境下，有时候相互扯皮的事蛮多。如果是DB的问题，就会找DB相关部门。关键是如何自证。涉及到职场生存法则，大家都不愿意去背锅，谁背锅，意......
  • 解决 TS7053: Element implicitly has an any type because expression of type strin
    背景有个接口interfaceDataType{id:number;name:string;created_at:string;updated_at:string;}我的数据{"id":9,"created_at":"2024-03-11T17:50:16.129235+08:00","updated_at":"202......
  • 二次封装axios
    importaxiosfrom"axios";import{ElMessage}from"element-plus";constrequest=axios.create({baseURL:"http://127.0.0.1:3000/api",timeout:5000,});request.interceptors.request.use((config)=>{//c......
  • iOS - Runtime - Class-方法缓存(cache_t)
    文章目录iOS-Runtime-Class-方法缓存(cache_t)1.散列表的存取值iOS-Runtime-Class-方法缓存(cache_t)Class内部结构中有个方法缓存（cache_t），用散列表（哈希表）来缓存曾经调用过的方法，可以提高方法的查找速度。（使用空间换时间的方式来提升速度）其中，_buckets就......
  • iOS - Runtime-消息机制-objc_msgSend()
    iOS-Runtime-消息机制-objc_msgSend()前言本章主要介绍消息机制-objc_msgSend的执行流程，分为消息发送、动态方法解析、消息转发三个阶段，每个阶段可以做什么。还介绍了super的本质是什么，如何调用的1.objc_msgSend执行流程OC中的方法调用，其实都是转换为objc_msgSend函......
  • 【逆向】利用Objection实现移动应用抓取https流量
    那女孩对我说说我保护她的梦说这个世界对她这样的不多她渐渐忘了我但是她并不晓得遍体鳞伤的我一天也没再爱过                     ......

赞助商

阅读排行

网站主页关于我们联系我们网站地图

本网站内容转载自其他媒体，侵权联系[admin##ips99.com]。

Copyright © 2020-2023 IPS99 版权所有 IPS99