网络 IO 模型简单介绍

一、同步阻塞 IO(BIO

网络 IO 模型简单介绍

当用户线程调用了 read 系统调用,内核(kernel)就开始了 IO 的第一个阶段:准备数据。很多时候,数据在一开始还没有到达(比如,还没有收到一个完整的Socket数据包),这个时候 kernel 就要等待足够的数据到来。

当 kernel 一直等到数据准备好了,它就会将数据从 kernel 内核缓冲区,拷贝到用户缓冲区(用户内存),然后 kernel 返回结果。

从用户线程 read 系统调用开始,用户线程就进入阻塞状态,一直到 kernel 返回结果后,用户线程才解除 block 的状态,重新运行起来。

BIO 的特点:在内核进行 IO 执行的两个阶段,用户线程都被 block 了。

BIO 的优点:程序简单,在阻塞等待数据期间,用户线程挂起,用户线程基本不会占用 CPU 资源。

BIO 的缺点:一般情况下,会为每个连接配套一条独立的线程,或者说一条线程维护一个连接成功的 IO 流的读写。在并发量小的情况下,这个没有什么问题。但是,当在高并发的场景下,需要大量的线程来维护大量的网络连接,内存、线程切换开销会非常巨大。因此,基本上,BIO 模型在高并发场景下是不可用的。

二、同步非阻塞 IO(NIO)

网络 IO 模型简单介绍

当用户线程调用了 read 系统调用,立即返回,不阻塞线程,用户线程需要不断地发起 IO 系统调用轮询数据是否准备好;

kernel 数据准备好后,用户线程发起系统调用,用户线程阻塞。内核开始复制数据,它就会将数据从 kernel 内核缓冲区,拷贝到用户缓冲区(用户内存),然后 kernel 返回结果。

用户线程解除 block 状态,重新运作起来。

NIO 的特点:应用程序的线程需要不断的进行 I/O 系统调用,轮询数据是否已经准备好,如果没有准备好,继续轮询,直到完成系统调用为止。

NIO 的优点:每次发起的 IO 系统调用,在内核的等待数据过程中可以立即返回,用户线程不会阻塞,实时性较好。

NIO 的缺点:需要不断的重复发起 IO 系统调用,这种不断的轮询,将会不断地询问内核,这将占用大量的 CPU 时间,系统资源利用率较低。

NIO 模型在高并发场景下,也是不可用的。一般 web 服务器不直接使用这种 IO 模型,而是在其他 IO 模型中使用非阻塞 IO 这一特性。java 的实际开发中,也不会涉及这种 IO 模型。

三、IO 多路复用

网络 IO 模型简单介绍

当用户线程调用了 read 系统调用,用户线程不直接访问 kernel ,而是进行 select/poll/epoll(多路复用器)系统调用。当然,这里有一个前提,需要将目标网络连接,提前注册到 select/poll/epoll 的可查询 socket 列表中(这部分由 kernel 完成)。

用户线程进行 select/poll/epoll 系统调用,线程阻塞,kernel 会查询所有 select/poll/epoll 的可查询 socket 列表,当任何一个 socket 中的数据准备好了,select/poll/epoll 就会返回。

用户线程获得了目标连接后,发起 read 系统调用,线程阻塞,内核开始复制数据,它就会将数据从 kernel 内核缓冲区,拷贝到用户缓冲区(用户内存),然后 kernel 返回结果。

用户线程才解除 block 的状态,用户线程终于真正读取到数据,继续执行。

多路复用 IO 的特点:

建立在操作系统 kernel 内核能够提供的多路复用系统调用 select/poll/epoll 基础之上的,多路复用 IO 需要用到两个系统调用(system call), 一个 select/poll/epoll 查询调用,一个是 IO 的读取调用。

和 NIO 模型类似,多路复用 IO 需要轮询,需要有单独的线程不断的进行 select/poll/epoll 轮询,查找出可以进行 IO 操作的连接。

多路复用 IO 模型与前面的 NIO 模型是有关系的,对于每一个可以查询的 socket,一般都设置成为 non-blocking 模型。

多路复用 IO 的优点:用 select/poll/epoll 的优势在于,它可以同时处理成千上万个连接(connection)。与一条线程维护一个连接相比,I/O 多路复用不必创建线程,也不必维护这些线程,从而大大减小了系统的开销。

多路复用 IO 的缺点:本质上,select/poll/epoll 系统调用,属于同步 IO,也是阻塞 IO,需要在读写事件就绪后,自己负责进行读写,也就是说这个读写过程是阻塞的。

tips:

"多路"指的是多个连接;"复用"指的是复用一个进程/线程进行监控。

Java 的 NIO(New IO)技术,使用的就是 IO 多路复用模型。在 linux 系统上,使用的是 epoll 系统调用。

多路复用器

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:https://www.heiqu.com/zwdszx.html