文章目录
- 一. 四种IO模型
- 1. 同步阻塞 IO（Blocking IO）
- 2. 同步非阻塞 IO（Non-blocking IO）
- 3. IO 多路复用（IO Multiplexing）
- 4. 异步 IO（Asynchronous IO）在 RPC 中的作用
- 5. 总结
- 选择多路复用或异步IO
在【分布式理论7】分布式调用之：服务间的（RPC）远程调用 我们知道了RPC（Remote Procedure Call，远程过程调用）过程中数据会进行多次的复制和传递，所以IO 模型的选择对系统的性能、吞吐量和响应时间有重要影响。不同的 IO 模型适用于不同的 RPC 场景，接下来我们具体分析下这四种IO模型。
一. 四种IO模型
1. 同步阻塞 IO（Blocking IO）
在同步阻塞 IO 模型下，RPC 客户端或服务器在进行网络通信时，会一直阻塞等待数据返回，这种方式的优点是实现简单，代码逻辑清晰，但缺点是效率较低，特别是在高并发情况下，阻塞会导致线程资源浪费，影响吞吐量。
工作原理
- 应用程序在用户空间向服务器发送请求。
- 内核接收请求，并等待数据从网络到达。
- 数据到达后，先存入内核缓冲区。
- 内核将数据复制到应用缓冲区。
- 复制完成后，应用程序才能继续执行数据处理。
在整个过程中，应用程序在数据未到达前一直处于等待状态，无法执行其他任务。
比喻：饭店点餐
同步阻塞 IO 就像在饭店点餐后，客人一直坐在座位上等菜上桌，期间什么也不做，直到菜全部端上来后才开始吃饭。
2. 同步非阻塞 IO（Non-blocking IO）
在同步非阻塞 IO 模型下，RPC 服务器在处理请求时，不会一直等待数据返回，而是会定期轮询内核数据是否可用，这种方式可以让在同步非阻塞 IO 模型下，RPC 服务器在处理请求时，不会一直等待数据返回，而是会定期轮询内核数据是否可用，这种方式可以让 RPC 服务器在等待数据的同时，执行其他任务，提高资源利用率。在等待数据的同时，执行其他任务，提高资源利用率。
工作原理
- 应用程序向服务器发起请求。
- 内核检查数据是否准备好。
- 如果数据还未准备好，内核立刻返回一个错误信息。
- 如果数据准备好，数据存入内核缓冲区。
- 应用程序周期性地轮询内核，检查数据是否可用。
- 数据准备好后，应用程序读取数据，并将其从内核缓冲区复制到应用缓冲区。
- 复制完成后，应用程序执行数据处理。
在数据未准备好时，应用程序不会阻塞，而是可以执行其他任务。
比喻：饭店点餐
同步非阻塞 IO 就像客人点餐后，可以玩手机、聊天，每隔一段时间问服务员“菜好了没有？”，如果还没好就继续做自己的事，直到菜准备好再吃饭。
缺点： 1. 轮询会造成 CPU 资源浪费，影响系统整体性能、2. 如果轮询间隔设置不合理，可能会导致 RPC 响应延迟。
3. IO 多路复用（IO Multiplexing）
IO 多路复用（如 select、poll、epoll）是 RPC 服务器常用的 IO 处理方式。通过一个复用器（如 epoll），服务器可以管理多个 RPC 连接（即监听多个IO请求），并且只在数据到达时才进行读取和处理（how），而不需要不断轮询，提高了系统吞吐量。
工作原理
- 复用器（Selector） 进程负责监听多个网络请求的 IO 状态。
- 用户进程调用复用器，并进入阻塞状态。
- 复用器监听多个 IO 连接，一旦有某个连接的数据准备好，它就会通知对应的用户进程。
- 用户进程读取数据，并将其从内核缓冲区复制到应用缓冲区。
- 复制完成后，应用程序执行数据处理。
比喻：饭店点餐
IO 多路复用就像一群人一起吃饭，他们的订单由同一个传菜员负责。传菜员会统一管理所有人的订单，一旦某道菜做好，就立刻送给对应的客人，而不是每个客人自己反复去问“我的菜好了没？”
优缺点：
| 类别 | 描述 |
|---|---|
| 优点 | 高并发适用：适合同时处理大量连接，如 RPC 服务器、微服务网关等。 |
| 线程数减少：可以使用少量线程管理大量连接，降低 CPU 和内存消耗。 | |
成熟稳定：epoll 在 Linux 下表现优秀，广泛应用于 Netty、Nginx、Redis 等高性能网络程序。 | |
| 缺点 | 仍然需要数据拷贝：数据到达内核缓冲区后，需要用户态进程主动读取，仍有一定的 CPU 消耗。 |
| 适用于 I/O 密集型：当业务计算量较大时，可能会成为瓶颈。 |
适用场景
- 高并发 RPC 服务器（如 Netty + gRPC）。
- HTTP 服务器（如 Nginx、Tomcat）。
- 数据库代理（如 MySQL Proxy）。
- 消息队列（如 Kafka、RabbitMQ）。
4. 异步 IO（Asynchronous IO）在 RPC 中的作用
异步 IO（AIO）模式下，RPC 调用不会阻塞或轮询，而是直接注册回调函数，当数据准备好时，由内核通知应用程序进行处理。这种模式能最大化提高 IO 效率，但实现较复杂，需要支持异步编程模型（如 Java 的 NIO 和 CompletableFuture）。
适用场景
- 高吞吐 RPC 框架（如 Dubbo、gRPC 的异步模式）。
- 高并发流式数据处理（如 Kafka、Flink）。
- 事件驱动架构（EDA）（如 Node.js）。
- 微服务异步通信（如 Kafka + Spring WebFlux）。
异步 IO（Asynchronous IO）的优缺点
| 类别 | 描述 |
|---|---|
| 优点 | 真正的异步处理：不需要应用进程主动轮询或读取数据，由内核完成数据拷贝后直接通知用户态，减少 CPU 开销。 |
| 适用于 CPU 密集型：在计算任务较多的场景下，异步 IO 可让计算与 IO 并行，提高系统吞吐量。 | |
| 缺点 | 实现复杂度高：需要采用异步编程模型，如 Future、Promise、Callback，可能导致代码可读性变差（如回调地狱）。 |
操作系统支持有限：虽然 Linux 提供了 io_uring，但异步 IO 生态尚未完全成熟，部分应用仍倾向使用 IO 多路复用。 |
5. 总结
| IO 模型 | 是否阻塞 | 是否轮询 | 适用场景 |
|---|---|---|---|
| 同步阻塞 IO | 阻塞 | 无 | 简单的单线程应用 |
| 同步非阻塞 IO | 非阻塞 | 需要轮询 | 资源利用率较高，但增加 CPU 开销 |
| IO 多路复用 | 阻塞（等待事件） | 复用器代替轮询 | 适用于高并发场景，如 RPC、服务器编程 |
| 异步 IO | 非阻塞 | 否（注册回调函数） | 适合超高并发、低延迟 RPC 需求，实现复杂，但性能最佳。 |
选择多路复用或异步IO
| 对比项 | IO 多路复用 | 异步 IO（AIO） |
|---|---|---|
| 并发能力 | 高（支持大量连接） | 更高（IO 与计算可并行） |
| CPU 开销 | 适中（事件驱动但仍需读取数据） | 低（数据直接拷贝到用户缓冲区） |
| 代码复杂度 | 低（事件模型较成熟） | 高（回调、异步编程） |
| 适用场景 | 高并发网络服务器、RPC、数据库代理 | 高吞吐 RPC、流式处理、大量 I/O 任务 |
| 操作系统支持 | epoll（Linux）、kqueue（BSD） | io_uring（Linux），支持度较低 |
- 高并发场景：优先 IO 多路复用（
epoll），如 gRPC、Netty。 - 低延迟、极高吞吐：优先 异步 IO，如 Dubbo 异步 RPC。
- 复杂业务逻辑：建议 IO 多路复用，避免回调地狱。
- 计算与 IO 并行：异步 IO 更优，如 AI 推理、流式计算任务。
