基础知识

用户空间和内核空间

以下皆是基于 Linux,现代操作系统都是采用虚拟寻址,处理器先产生一个虚拟地址,通过地址翻译成物理地址(内存的地址),再通过总线的传递,最后处理器拿到物理地址存储的数据。

操作系统的核心是内核,独立于普通的应用程序,可以访问受保护的内存空间,也有访问底层硬件设备的所有权限。为了保证用户进程不能直接操作内核(kernel),保证内核的安全,操心系统将虚拟空间划分为两部分,一部分为内核空间,一部分为用户空间。

对 32 位操作系统而言,它的寻址空间(虚拟存储空间)为 4G(2 的 32 次方)。针对 Linux 操作系统而言,将最高的 1G 地址(从虚拟地址 0xC0000000 到 0xFFFFFFFF),供内核使用,称为内核空间,而将较低的 3G 地址(从虚拟地址 0x00000000 到 0xBFFFFFFF),供各个进程使用,称为用户空间。

进程上下文切换

为了控制进程的执行,内核必须有能力挂起正在CPU上运行的进程,并恢复以前挂起的某个进程的执行。这种行为被称为进程的上下文切换(也叫调度)。因此可以说,任何进程都是在操作系统内核的支持下运行的,是与内核紧密相关的。

从一个进程的运行转到另一个进程上运行,这个过程中经过下面这些变化

(1)保存当前进程 A 的上下文。上下文就是内核再次唤醒当前进程时所需要的状态,由一些对象(程序计数器、状态寄存器、用户栈等各种内核数据结构)的值组成。

(2)切换页全局目录以安装一个新的地址空间。

(3)恢复进程 B 的上下文

进程上下文切换是一个比较消耗资源的过程。

进程的阻塞

正在运行状态的进程,由于期待的某些事件未发生,如请求系统资源失败、等待某种操作的完成、新数据尚未到达或无新工作做等,则由系统自动执行阻塞原语(Block),使自己由运行状态变为阻塞状态。可见,进程的阻塞是进程自身的一种主动行为,也因此只有处于运行状态的进程(已获得 CPU),才可能将其转为阻塞状态。当进程转入阻塞状态时,是不占用 CPU 资源的

文件描述符

在 Linux 系统中一切皆可以看成是文件,文件又可分为:普通文件、目录文件、链接文件和设备文件。文件描述符(file descriptor)是内核为了高效管理已被打开的文件所创建的索引,其是一个非负整数(通常是小整数),用于指代被打开的文件,所有执行 I/ O操作的系统调用都通过文件描述符。

文件描述符在形式上是一个非负整数。实际上,它是一个索引值,指向内核为每一个进程所维护的该进程打开文件的记录表。当程序打开一个现有文件或者创建一个新文件时,内核向进程返回一个文件描述符。在程序设计中,一些涉及底层的程序编写往往会围绕着文件描述符展开。但是文件描述符这一概念往往只适用于 UNIX、Linux 这样的操作系统。

直接 I/O 和 缓存 I/O

缓存 I/O 又被称作标准 I/O,大多数文件系统的默认 I/O 操作都是缓存 I/O。在 Linux 的缓存 I/O 机制中,以 write 操作为例,数据会先被拷贝到进程缓冲区,再拷贝到操作系统内核的缓冲区中,然后才会写到相应存储设备中。

缓存 I/O 的 write 操作:

直接 I/O 的 write 操作:

write 操作过程中会有很多次拷贝,直到数据全部拷贝到磁盘。

I/O 模式

对于一次 I/O 访问(这里以 read 操作举例),数据会先被拷贝到操作系统内核的缓冲区中,然后才会从操作系统内核的缓冲区拷贝到应用程序的缓冲区,最后交给进程。

所以说,当一个 read 操作发生时,它会经历两个阶段:

(1)等待数据准备(Waiting for the data to be ready)

(2)将数据从内核拷贝到进程中(Copying the data from the kernel to the process)

正式因为这两个阶段,Linux 系统产生了下面五种网络模式的方案:

(1)阻塞 I/O(Blocking I/O)

(2)非阻塞 I/O(Non-blocking I/O)

(3)I/O 多路复用(I/O multiplexing)

(4)信号驱动 I/O(Signal driven I/O)

(5)异步 I/O(Asynchronous I/O)

阻塞 I/O(Blocking I/O)

以 read 操作为例:

(1)进程发起read,进行recvfrom系统调用;

(2)内核开始第一阶段,准备数据(从磁盘拷贝到内核缓冲区),进程请求的数据并不是一下就能准备好;准备数据是要消耗时间的;

(3)与此同时,进程阻塞(进程是自己选择阻塞与否),等待数据中;

(4)直到数据从内核拷贝到了用户空间,内核返回结果,进程解除阻塞。

也就是说,内核准备数据数据从内核拷贝到进程内这两个过程都是阻塞的。

非阻塞(Non-blocking I/O)

(1)当用户进程发出 read 操作时,如果 kernel 中的数据还没有准备好;

(2)那么它并不会阻塞用户进程,而是立刻返回一个 error,从用户进程角度讲 ,它发起一个 read 操作后,并不需要等待,而是马上就得到了一个结果;

(3)用户进程判断结果是一个 error 时,它就知道数据还没有准备好,于是它可以再次发送 read 操作。一旦 kernel 中的数据准备好了,并且又再次收到了用户进程的 system call;

(4)那么它马上就将数据拷贝到了用户内存,然后返回。

所以,Non-blocking I/O 的特点是用户进程在内核准备数据的阶段需要不断的主动询问数据是否准备好。但是,轮寻对于 CPU 来说是较大的浪费,一般只有在特定的场景下才使用

I/O 多路复用(I/O multiplexing)

I/O 多路复用实际上就是用 select, poll, epoll 监听多个 I/O 对象,当 I/O 对象有变化(有数据)的时候就通知用户进程。好处就是单个进程可以处理多个 Socket。I/O 多路复用的流程:

(1)当用户进程调用了 select,那么整个进程会被阻塞;

(2)而同时,kernel 会“监视”所有 select 负责的 Socket;

(3)当任何一个 Socket 中的数据准备好了,select 就会返回;

(4)这个时候用户进程再调用 read 操作,将数据从 kernel 拷贝到用户进程。

所以,I/O 多路复用的特点是通过一种机制一个进程能同时等待多个文件描述符,而这些文件描述符(套接字描述符)其中的任意一个进入读就绪状态,select() 函数就可以返回

这个图和 Blocking I/O 的图其实并没有太大的不同,事实上,还更差一些。因为这里需要使用两个 system call (select 和 recvfrom),而 Blocking I/O 只调用了一个 system call (recvfrom)。但是,用 select 的优势在于它可以同时处理多个连接。

所以,如果处理的连接数不是很高的话,使用 select/epoll 的 Webserver 不一定比使用多线程 + Blocking I/O 的 Webserver 性能更好,可能延迟还更大。select/epoll 的优势并不是对于单个连接能处理得更快,而是在于能处理更多的连接。

在 I/O multiplexing 模型中,对于每一个 Socket,一般都设置成为 Non-blocking,但如上图所示,整个用户进程其实是一直被阻塞的,只不过进程是被 select 这个函数阻塞,而不是被 Socket I/O 操作给阻塞。

信号驱动 I/O(Signal driven I/O)

(1)用户进程建立 sigio 的信号处理程序,系统调用 sigaction 执行信号处理函数(非阻塞,立刻返回)

(2)当 kernel 中的数据准备好了,系统生成 sigio 信号,通过信号回调通知用户进程来读取数据;

(3)这个时候用户进程再调用 read 操作,将数据从 kernel 拷贝到用户进程。

异步 I/O(Asynchronous I/O)

(1)用户进程发起 read 操作之后,立刻就可以开始去做其它的事;

(2)而另一方面,从 kernel 的角度,当它收到一个 asynchronous read 操作之后,首先它会立刻返回,所以不会对用户进程产生任何阻塞;

(3)然后 kernel 会等待数据准备完成,数据准备好后直接将数据拷贝到用户内存,当这一切都完成之后,kernel会给用户进程发送一个 signal,告诉用户进程 read 操作完成了。

总结

Blocking 和 Non-blocking 的区别

使用 Blocking I/O 会一直阻塞住对应的进程直到操作完成,而 Non-blocking I/O 在 kernel 还没准备好数据的情况下会立刻返回。

Synchronous 和 Asynchronous 的区别

在说明 Synchronous I/O 和 Asynchronous I/O 的区别之前,需要先给出两者的定义。POSIX 的定义是这样子的:

  • A synchronous I/O operation causes the requesting process to be blocked until that I/O operation completes;
  • An asynchronous I/O operation does not cause the requesting process to be blocked;

两者的区别就在于 Synchronous I/O 进行 I/O 操作的时候会将进程阻塞。按照这个定义,之前所述的 Blocking I/O,Non-blocking I/O,I/O multiplexing 都属于 Synchronous I/O。

有人会说 Non-blocking I/O 并没有被阻塞,然而这里有个非常“狡猾”的地方,定义中所指的 ”IO operation” 是指真实的 I/O 操作,就是例子中的 recvfrom 这个 system call。Bon-blocking I/O 在执行 recvfrom 这个system call的时候,如果 kernel 的数据没有准备好,这时候不会阻塞进程。但是,当 kernel 中数据准备好的时候,recvfrom 会将数据从 kernel 拷贝到用户内存中,这个时候进程是被阻塞的

而 Asynchronous I/O 则不一样,当进程发起 I/O 操作之后,就直接返回继续执行其他任务,直到 kernel 发送一个信号,告诉进程说 I/O 完成。在这整个过程中,进程完全没有被阻塞的。

Non-blocking I/O 和 Asynchronous I/O的区别

可以发现 Non-blocking I/O 和 Asynchronous I/O 的区别还是很明显的。

  • 在 Non-blocking I/O 中,虽然进程大部分时间都不会被阻塞,但是它仍然要求进程主动的去检查数据是否准备好,并且当数据准备完成以后,也需要进程主动的再次调用 recvfrom 来将数据拷贝到用户内存。
  • 而 Asynchronous I/O 则完全不同。它就像是用户进程将整个 I/O 操作交给了他人(kernel)完成,然后他人做完后发信号通知。在此期间,用户进程不需要去检查 I/O 操作的状态,也不需要主动的去拷贝数据。

参考