1、应用程序和内核
内核具有最高权限,可以访问受保护的内存空间,可以访问底层的硬件设备。而这些是应用程序所不具备的,但应用程序可以通过调用内核提供的接口来间接访问或操作。所谓的常见的 IO 模型就是基于应用程序和内核之间的交互所提出来的。以一次网络 IO 请求过程中的 read 操作为例,请求数据会先拷贝到系统内核的缓冲区(内核空间),再从操作系统的内核缓冲区拷贝到应用程序的地址空间(用户空间)。而从内核空间将数据拷贝到用户空间过程中,就会经历两个阶段:
- 等待数据准备
- 拷贝数据
也正因为有了这两个阶段,才提出了各种网络 I/O 模型。
2、同步和异步
同步(Synchronised)和异步(Asynchronized)的概念描述的是应用程序与内核的交互方式。
- 同步是指应用程序发起 I/O 请求后需要等待或者轮询内核 I/O 操作完成后才能继续执行。
- 异步是指应用程序发起 I/O 请求后仍继续执行,当内核 I/O 操作完成后会通知应用程序,或者调用应用程序注册的回调函数。
3、阻塞和非阻塞
阻塞和非阻塞的概念描述的是应用程序调用内核 IO 操作的方式。
- 阻塞是指 I/O 操作需要彻底完成后才返回到用户空间。
- 非阻塞是指 I/O 操作被调用后立即返回给用户一个状态值,无需等到 I/O 操作彻底完成。
4、并发和并行
并发,在操作系统中,是指 一个时间段 中有几个程序都处于已启动运行到运行完毕之间,且这几个程序都是在同一个处理机上运行,但任一个时刻点上只有一个程序在处理机上运行。
- 并发(concurrency):逻辑上具备同时处理多个任务的能力。
- 并行(parallesim):物理上在同一时刻执行多个并发任务,依赖多核处理器等物理设备。
多线程或多进程是并行的基本条件,但单线程也可用协程做到并发。通常情况下,用多进程来实现分布式和负载平衡,减轻单进程垃圾回收压力;用多线程抢夺更多的处理器资源;用协程来提高处理器时间片利用率。现代系统中,多核 CPU 可以同时运行多个不同的进程或者线程。所以并发程序可以是并行的,也可以不是。
5、进程/线程/协程
进程(process)
- 进程是资源分配的最小单位
- 进程间不共享内存,每个进程拥有自己独立的内存
- 进程间可以通过信号、信号量、共享内存、管道、队列等来通信
- 新开进程开销大,并且 CPU 切换进程成本也大
- 进程由操作系统调度
- 多进程方式比多线程更加稳定
线程(thread)
- 线程是程序执行流的最小单位
- 线程是来自于进程的,一个进程下面可以开多个线程
- 每个线程都有自己一个栈,不共享栈,但多个线程能共享同一个属于进程的堆
- 线程因为是在同一个进程内的,可以共享内存
- 线程也是由操作系统调度,线程是 CPU 调度的最小单位
- 新开线程开销小于进程,CPU 在切换线程成本也小于进程
- 某个线程发生致命错误会导致整个进程崩溃
- 线程间读写变量存在锁的问题处理起来相对麻烦
协程(coroutine)
- 对于操作系统来说只有进程和线程,协程的控制由应用程序显式调度,非抢占式的
- 协程的执行最终靠的还是线程,应用程序来调度协程选择合适的线程来获取执行权
- 切换非常快,成本低。一般占用栈大小远小于线程(协程 KB 级别,线程 MB 级别),所以可以开更多的协程
- 协程比线程更轻量级