%E5%BD%93%E5%89%8D%E7%8E%AF%E5%A2%83)当前环境微信公众号【黄小斜】作者是蚂蚁金服 JAVA 工程师,专注于 JAVA 后端技术栈:SpringBoot、SSM全家桶、MySQL、分布式、中间件、微服务,同时也懂点投资理财,坚持学习和写作,相信终身学习的力量!关注公众号后回复”架构师“即可领取 Java基础、进阶、项目和架构师等免费学习资料,更有数据库、分布式、微服务等热门技术学习视频,内容丰富,兼顾原理和实践,另外也将赠送作者原创的Java学习指南、Java程序员面试指南等干货资源。
- jdk == 1.8
git 地址:github.com/jasonGeng88…
%E7%9F%A5%E8%AF%86%E7%82%B9)知识点- nio 下 I/O 阻塞与非阻塞实现
- SocketChannel 介绍
- I/O 多路复用的原理
- 事件选择器与 SocketChannel 的关系
- 事件监听类型
- 字节缓冲 ByteBuffer 数据结构
接着上一篇中的站点访问问题,如果我们需要并发访问10个不同的网站,我们该如何处理?
在上一篇中,我们使用了java.net.socket类来实现了这样的需求,以一线程处理一连接的方式,并配以线程池的控制,貌似得到了当前的最优解。可是这里也存在一个问题,连接处理是同步的,也就是并发数量增大后,大量请求会在队列中等待,或直接异常抛出。
为解决这问题,我们发现元凶处在“一线程一请求”上,如果一个线程能同时处理多个请求,那么在高并发下性能上会大大改善。这里就借住 JAVA 中的 nio 技术来实现这一模型。
nio-%E7%9A%84%E9%98%BB%E5%A1%9E%E5%AE%9E%E7%8E%B0)nio 的阻塞实现关于什么是 nio,从字面上理解为 New IO,就是为了弥补原本 I/O 上的不足,而在 JDK 1.4 中引入的一种新的 I/O 实现方式。简单理解,就是它提供了 I/O 的阻塞与非阻塞的两种实现方式(当然,默认实现方式是阻塞的。)。
下面,我们先来看下 nio 以阻塞方式是如何处理的。
%E5%BB%BA%E7%AB%8B%E8%BF%9E%E6%8E%A5)建立连接有了上一篇 socket 的经验,我们的第一步一定也是建立 socket 连接。只不过,这里不是采用 new socket() 的方式,而是引入了一个新的概念 SocketChannel。它可以看作是 socket 的一个完善类,除了提供 Socket 的相关功能外,还提供了许多其他特性,如后面要讲到的向选择器注册的功能。
类图如下: 
建立连接代码实现:
// 初始化 socket,建立 socket 与 channel 的绑定关系SocketChannel socketChannel = SocketChannel.open();// 初始化远程连接地址SocketAddress remote = new InetSocketAddress(this.host, port);// I/O 处理设置阻塞,这也是默认的方式,可不设置socketChannel.configureBlocking(true);// 建立连接socketChannel.connect(remote);%E8%8E%B7%E5%8F%96-socket-%E8%BF%9E%E6%8E%A5)获取 socket 连接
因为是同样是 I/O 阻塞的实现,所以后面的关于 socket 输入输出流的处理,和上一篇的基本相同。唯一差别是,这里需要通过 channel 来获取 socket 连接。
- 获取 socket 连接
Socket socket = socketChannel.socket();
- 处理输入输出流
PrintWriter pw = getWriter(socketChannel.socket());BufferedReader br = getReader(socketChannel.socket());%E5%AE%8C%E6%95%B4%E7%A4%BA%E4%BE%8B)完整示例
package com.jason.network.mode.nio;import com.jason.network.constant.HttpConstant;import com.jason.network.util.HttpUtil;
import java.io.*;import java.net.InetSocketAddress;import java.net.Socket;import java.net.SocketAddress;import java.nio.channels.SocketChannel;
public class NioBlockingHttpClient {
private SocketChannel socketChannel; private String host;public static void main(String[] args) throws IOException {for (String host: HttpConstant.HOSTS) {NioBlockingHttpClient client = new NioBlockingHttpClient(host, HttpConstant.PORT); client.request();}}public NioBlockingHttpClient(String host, int port) throws IOException { this.host = host; socketChannel = SocketChannel.open(); socketChannel.socket().setSoTimeout(5000); SocketAddress remote = new InetSocketAddress(this.host, port); this.socketChannel.connect(remote); }public void request() throws IOException { PrintWriter pw = getWriter(socketChannel.socket()); BufferedReader br = getReader(socketChannel.socket());pw.write(HttpUtil.compositeRequest(host)); pw.flush(); String msg; while ((msg = br.readLine()) != null){ System.out.println(msg); } }private PrintWriter getWriter(Socket socket) throws IOException { OutputStream out = socket.getOutputStream(); return new PrintWriter(out); }nio-%E7%9A%84%E9%9D%9E%E9%98%BB%E5%A1%9E%E5%AE%9E%E7%8E%B0)nio 的非阻塞实现 %E5%8E%9F%E7%90%86%E5%88%86%E6%9E%90)原理分析private BufferedReader getReader(Socket socket) throws IOException { InputStream in = socket.getInputStream(); return new BufferedReader(new InputStreamReader(in)); } }</pre>nio 的阻塞实现,基本与使用原生的 socket 类似,没有什么特别大的差别。
下面我们来看看它真正强大的地方。到目前为止,我们将的都是阻塞 I/O。何为阻塞 I/O,看下图:

我们主要观察图中的前三种 I/O 模型,关于异步 I/O,一般需要依靠操作系统的支持,这里不讨论。
从图中可以发现,阻塞过程主要发生在两个阶段上:
- 第一阶段:等待数据就绪;
- 第二阶段:将已就绪的数据从内核缓冲区拷贝到用户空间;
这里产生了一个从内核到用户空间的拷贝,主要是为了系统的性能优化考虑。假设,从网卡读到的数据直接返回给用户空间,那势必会造成频繁的系统中断,因为从网卡读到的数据不一定是完整的,可能断断续续的过来。通过内核缓冲区作为缓冲,等待缓冲区有足够的数据,或者读取完结后,进行一次的系统中断,将数据返回给用户,这样就能避免频繁的中断产生。
了解了 I/O 阻塞的两个阶段,下面我们进入正题。看看一个线程是如何实现同时处理多个 I/O 调用的。从上图中的非阻塞 I/O 可以看出,仅仅只有第二阶段需要阻塞,第一阶段的数据等待过程,我们是不需要关心的。不过该模型是频繁地去检查是否就绪,造成了 CPU 无效的处理,反而效果不好。如果有一种类似的好莱坞原则— “不要给我们打电话,我们会打给你” 。这样一个线程可以同时发起多个 I/O 调用,并且不需要同步等待数据就绪。在数据就绪完成的时候,会以事件的机制,来通知我们。这样不就实现了单线程同时处理多个 IO 调用的问题了吗?即所说的“I/O 多路复用模型”。
废话讲了一大堆,下面就来实际操刀一下。
%E5%88%9B%E5%BB%BA%E9%80%89%E6%8B%A9%E5%99%A8)创建选择器由上面分析可以,我们得有一个选择器,它能监听所有的 I/O 操作,并且以事件的方式通知我们哪些 I/O 已经就绪了。
代码如下:
import java.nio.channels.Selector;%E5%88%9B%E5%BB%BA%E9%9D%9E%E9%98%BB%E5%A1%9E-io)创建非阻塞 I/O...
private static Selector selector;static {try {selector = Selector.open();} catch (IOException e) {e.printStackTrace();}}
下面,我们来创建一个非阻塞的 SocketChannel,代码与阻塞实现类型,唯一不同是socketChannel.configureBlocking(false)。
注意:只有在socketChannel.configureBlocking(false)之后的代码,才是非阻塞的,如果socketChannel.connect()在设置非阻塞模式之前,那么连接操作依旧是阻塞调用的。
SocketChannel socketChannel = SocketChannel.open();SocketAddress remote = new InetSocketAddress(host, port);// 设置非阻塞模式socketChannel.configureBlocking(false);socketChannel.connect(remote);%E5%BB%BA%E7%AB%8B%E9%80%89%E6%8B%A9%E5%99%A8%E4%B8%8E-socket-%E7%9A%84%E5%85%B3%E8%81%94)建立选择器与 socket 的关联
选择器与 socket 都创建好了,下一步就是将两者进行关联,好让选择器和监听到 Socket 的变化。这里采用了以 SocketChannel 主动注册到选择器的方式进行关联绑定,这也就解释了,为什么不直接new Socket(),而是以SocketChannel的方式来创建 socket。
代码如下:
socketChannel.register(selector,SelectionKey.OP_CONNECT| SelectionKey.OP_READ| SelectionKey.OP_WRITE);
上面代码,我们将 socketChannel 注册到了选择器中,并且对它的连接、可读、可写事件进行了监听。
具体的事件监听类型如下:
| 操作类型 | 值 | 描述 | 所属对象 |
|---|---|---|---|
| OP_READ | 1 << 0 | 读操作 | SocketChannel |
| OP_WRITE | 1 << 2 | 写操作 | SocketChannel |
| OP_CONNECT | 1 << 3 | 连接socket操作 | SocketChannel |
| OP_ACCEPT | 1 << 4 | 接受socket操作 | ServerSocketChannel |
现在,选择器已经与我们关心的 socket 进行了关联。下面就是感知事件的变化,然后调用相应的处理机制。
这里与 Linux 下的 selector 有点不同,nio 下的 selecotr 不会去遍历所有关联的 socket。我们在注册时设置了我们关心的事件类型,每次从选择器中获取的,只会是那些符合事件类型,并且完成就绪操作的 socket,减少了大量无效的遍历操作。
public void select() throws IOException {
// 获取就绪的 socket 个数
while (selector.select() > 0){
// 获取符合的 socket 在选择器中对应的事件句柄 key
Set keys = selector.selectedKeys();
// 遍历所有的key
Iterator it = keys.iterator();
while (it.hasNext()){
// 获取对应的 key,并从已选择的集合中移除
SelectionKey key = (SelectionKey)it.next();
it.remove();
if (key.isConnectable()){
// 进行连接操作
connect(key);
}
else if (key.isWritable()){
// 进行写操作
write(key);
}
else if (key.isReadable()){
// 进行读操作
receive(key);
}
}
}
}
注意:这里的selector.select()是同步阻塞的,等待有事件发生后,才会被唤醒。这就防止了 CPU 空转的产生。当然,我们也可以给它设置超时时间,selector.select(long timeout)来结束阻塞过程。
下面,我们分别来看下,一个 socket 是如何来处理连接、写入数据和读取数据的(这些操作都是阻塞的过程,只是我们将等待就绪的过程变成了非阻塞的了)。
处理连接代码:
// SelectionKey 代表 SocketChannel 在选择器中注册的事件句柄private void connect(SelectionKey key) throws IOException {// 获取事件句柄对应的 SocketChannelSocketChannel channel = (SocketChannel) key.channel();
// 真正的完成 socket 连接channel.finishConnect();
// 打印连接信息InetSocketAddress remote = (InetSocketAddress) channel.socket().getRemoteSocketAddress();String host = remote.getHostName();int port = remote.getPort();System.out.println(String.format("访问地址: %s:%s 连接成功!", host, port));}
%E5%A4%84%E7%90%86%E5%86%99%E5%85%A5%E5%B0%B1%E7%BB%AA%E4%BA%8B%E4%BB%B6)处理写入就绪事件
// 字符集处理类private Charset charset = Charset.forName("utf8");
private void write(SelectionKey key) throws IOException {SocketChannel channel = (SocketChannel) key.channel();InetSocketAddress remote = (InetSocketAddress) channel.socket().getRemoteSocketAddress();String host = remote.getHostName();
// 获取 HTTP 请求,同上一篇
String request = HttpUtil.compositeRequest(host);
// 向 SocketChannel 写入事件
channel.write(charset.encode(request));
// 修改 SocketChannel 所关心的事件
key.interestOps(SelectionKey.OP_READ);
}</pre>
这里有两个地方需要注意:
- 第一个是使用
channel.write(charset.encode(request));进行数据写入。有人会说,为什么不能像上面同步阻塞那样,通过PrintWriter包装类进行操作。因为PrintWriter的write()方法是阻塞的,也就是说要等数据真正从 socket 发送出去后才返回。
这与我们这里所讲的阻塞是不一致的,这里的操作虽然也是阻塞的,但它发生的过程是在数据从用户空间到内核缓冲区拷贝过程。至于系统将缓冲区的数据通过 socket 发送出去,这不在阻塞范围内。也解释了为什么要用 Charset 对写入内容进行编码了,因为缓冲区接收的格式是ByteBuffer。
- 第二,选择器用来监听事件变化的两个参数是
interestOps与readyOps。
* interestOps:表示 `SocketChannel` 所关心的事件类型,也就是告诉选择器,当有这几种事件发生时,才来通知我。这里通过`key.interestOps(SelectionKey.OP_READ);`告诉选择器,之后我只关心“读就绪”事件,其他的不用通知我了。
* readyOps:表示 `SocketChannel` 当前就绪的事件类型。以`key.isReadable()`为例,判断依据就是:`return (readyOps() & OP_READ) != 0;`
%E5%A4%84%E7%90%86%E8%AF%BB%E5%8F%96%E5%B0%B1%E7%BB%AA%E4%BA%8B%E4%BB%B6)处理读取就绪事件
private void receive(SelectionKey key) throws IOException {SocketChannel channel = (SocketChannel) key.channel();ByteBuffer buffer = ByteBuffer.allocate(1024);channel.read(buffer);buffer.flip();String receiveData = charset.decode(buffer).toString();
// 当再没有数据可读时,取消在选择器中的关联,并关闭 socket 连接
if ("".equals(receiveData)) {
key.cancel();
channel.close();
return;
}
System.out.println(receiveData);
}</pre>
这里的处理基本与写入一致,唯一要注意的是,这里我们需要自行处理去缓冲区读取数据的操作。首先会分配一个固定大小的缓冲区,然后从内核缓冲区中,拷贝数据至我们刚分配固定缓冲区上。这里存在两种情况:
- 我们分配的缓冲区过大,那多余的部分以0补充(初始化时,其实会自动补0)。
- 我们分配的缓冲去过小,因为选择器会不停的遍历。只要
SocketChannel处理读就绪状态,那下一次会继续读取。当然,分配过小,会增加遍历次数。
最后,将一下 ByteBuffer 的结构,它主要有 position, limit,capacity 以及 mark 属性。以 buffer.flip(); 为例,讲下各属性的作用(mark 主要是用来标记之前 position 的位置,是在当前 postion 无法满足的情况下使用的,这里不作讨论)。

从图中看出,
- 容量(capacity):表示缓冲区可以保存的数据容量;
- 极限(limit):表示缓冲区的当前终点,即写入、读取都不可超过该重点;
- 位置(position):表示缓冲区下一个读写单元的位置;
package com.jason.network.mode.nio;import com.jason.network.constant.HttpConstant;import com.jason.network.util.HttpUtil;
import java.io.IOException;import java.net.InetSocketAddress;import java.net.SocketAddress;import java.nio.ByteBuffer;import java.nio.channels.SelectionKey;import java.nio.channels.Selector;import java.nio.channels.SocketChannel;import java.nio.charset.Charset;import java.util.Iterator;import java.util.Set;
public class NioNonBlockingHttpClient {
private static Selector selector; private Charset charset = Charset.forName("utf8");static { try { selector = Selector.open(); } catch (IOException e) { e.printStackTrace(); } }public static void main(String[] args) throws IOException {NioNonBlockingHttpClient client = new NioNonBlockingHttpClient();for (String host: HttpConstant.HOSTS) {client.request(host, HttpConstant.PORT);}client.select();}public void request(String host, int port) throws IOException { SocketChannel socketChannel = SocketChannel.open(); socketChannel.socket().setSoTimeout(5000); SocketAddress remote = new InetSocketAddress(host, port); socketChannel.configureBlocking(false); socketChannel.connect(remote); socketChannel.register(selector, SelectionKey.OP_CONNECT | SelectionKey.OP_READ | SelectionKey.OP_WRITE); }public void select() throws IOException { while (selector.select(500) > 0){ Set keys = selector.selectedKeys();Iterator it = keys.iterator();while (it.hasNext()){SelectionKey key = (SelectionKey)it.next(); it.remove();if (key.isConnectable()){ connect(key); } else if (key.isWritable()){ write(key); } else if (key.isReadable()){ receive(key); } } } }private void connect(SelectionKey key) throws IOException { SocketChannel channel = (SocketChannel) key.channel(); channel.finishConnect(); InetSocketAddress remote = (InetSocketAddress) channel.socket().getRemoteSocketAddress(); String host = remote.getHostName(); int port = remote.getPort(); System.out.println(String.format("访问地址: %s:%s 连接成功!", host, port)); }private void write(SelectionKey key) throws IOException { SocketChannel channel = (SocketChannel) key.channel(); InetSocketAddress remote = (InetSocketAddress) channel.socket().getRemoteSocketAddress(); String host = remote.getHostName();String request = HttpUtil.compositeRequest(host); System.out.println(request);channel.write(charset.encode(request)); key.interestOps(SelectionKey.OP_READ); }private void receive(SelectionKey key) throws IOException { SocketChannel channel = (SocketChannel) key.channel(); ByteBuffer buffer = ByteBuffer.allocate(1024); channel.read(buffer); buffer.flip(); String receiveData = charset.decode(buffer).toString();if ("".equals(receiveData)) { key.cancel(); channel.close(); return; }%E7%A4%BA%E4%BE%8B%E6%95%88%E6%9E%9C)示例效果System.out.println(receiveData); } } </pre>
%E6%80%BB%E7%BB%93)总结本文从 nio 的阻塞方式讲起,介绍了阻塞 I/O 与非阻塞 I/O 的区别,以及在 nio 下是如何一步步构建一个 IO 多路复用的模型的客户端。文中需要理解的内容比较多,如果有理解错误的地方,欢迎指正~
补充1:基于NIO的多路复用客户端(线程池版)
public static void main(String[] args) {基于线程池的伪异步NIO模型 a = new 基于线程池的伪异步NIO模型();a.startServer(); }private Charset charset = Charset.forName("utf8"); class WriteThread implements Runnable {private SelectionKey key;public WriteThread(SelectionKey key) {this.key = key;}@Overridepublic void run() {SocketChannel socketChannel = (SocketChannel) key.channel();Socket socket = socketChannel.socket();try {socketChannel.finishConnect();} catch (IOException e) {e.printStackTrace();}InetSocketAddress remote = (InetSocketAddress) socketChannel.socket().getRemoteSocketAddress();String host = remote.getHostName();int port = remote.getPort();System.out.println(String.format("访问地址: %s:%s 连接成功!", host, port)); }}class ReadThread implements Runnable {private SelectionKey key;public ReadThread(SelectionKey key) {this.key = key;}@Overridepublic void run() {SocketChannel socketChannel = (SocketChannel) key.channel();ByteBuffer buffer = ByteBuffer.allocate(1024);try {socketChannel.read(buffer);} catch (IOException e) {e.printStackTrace();}buffer.flip();String receiveData = null;try {receiveData = new String(buffer.array(), "utf8");} catch (UnsupportedEncodingException e) {e.printStackTrace();}if ("".equals(receiveData)) { key.cancel(); try { socketChannel.close(); } catch (IOException e) { e.printStackTrace(); } return; }System._out_.println(receiveData); } } class ConnectThread implements Runnable { private SelectionKey key; public ConnectThread(SelectionKey key) { this.key = key; } @Override public void run() { SocketChannel socketChannel = (SocketChannel) key.channel(); ByteBuffer byteBuffer = charset.encode("hello world"); try { socketChannel.write(byteBuffer); System._out_.println("hello world"); } catch (IOException e) { e.printStackTrace(); } key.interestOps(SelectionKey._OP_READ_); } } public void startServer() { ExecutorService executorService = Executors.newFixedThreadPool(10); try { SocketChannel socketChannel = SocketChannel.open(); Selector selector = Selector.open(); socketChannel.configureBlocking(false); InetSocketAddress inetAddress = new InetSocketAddress(1234); socketChannel.connect(inetAddress); socketChannel.register(selector, SelectionKey._OP_CONNECT_ | SelectionKey._OP_READ_ | SelectionKey._OP_WRITE_); while (selector.select(500) > 0) { Iterator<SelectionKey> keys = selector.selectedKeys().iterator(); while (keys.hasNext()) { SelectionKey key = keys.next(); if (key.isConnectable()) { executorService.submit(new ConnectThread(key)); }else if(key.isReadable()) { executorService.submit(new ReadThread(key)); }else { executorService.submit(new WriteThread(key)); } } }%E5%90%8E%E7%BB%AD)补充2:基于NIO的多路复用服务端} catch (IOException e) { e.printStackTrace(); } }</pre>class NioNonBlockingHttpServer {private static Selector _selector_; private Charset charset = Charset.forName("utf8"); static { try { _selector_ = Selector.open(); } catch (IOException e) { e.printStackTrace(); } }public static void main(String[] args) throws IOException {NioNonBlockingHttpServer httpServer = new NioNonBlockingHttpServer(); httpServer.select(); }public void request(int port) throws IOException { ServerSocketChannel serverSocketChannel = ServerSocketChannel.open(); serverSocketChannel.socket().setSoTimeout(5000); serverSocketChannel.configureBlocking(false); serverSocketChannel.socket().bind(new InetSocketAddress(8383)); // serverSocketChannel.register(selector, // SelectionKey.OP_CONNECT // | SelectionKey.OP_READ // | SelectionKey.OP_WRITE); }public void select() throws IOException { while (_selector_.select(500) > 0) { Set keys = _selector_.selectedKeys(); Iterator it = keys.iterator(); while (it.hasNext()) {SelectionKey key = (SelectionKey) it.next(); it.remove(); if (key.isAcceptable()) { accept(key); } else if (key.isWritable()) { write(key); } else if (key.isReadable()) { receive(key); } } } }private void accept(SelectionKey key) throws IOException { SocketChannel socketChannel; ServerSocketChannel channel = (ServerSocketChannel) key.channel(); socketChannel = channel.accept();//接受连接请求 socketChannel.configureBlocking(false); socketChannel.register(_selector_, SelectionKey._OP_READ_ | SelectionKey._OP_WRITE_); InetSocketAddress local = (InetSocketAddress) channel.socket().getLocalSocketAddress(); String host = local.getHostName(); int port = local.getPort(); System._out_.println(String.format("请求地址: %s:%s 接收成功!", host, port)); }private void write(SelectionKey key) throws IOException { SocketChannel channel = (SocketChannel) key.channel(); InetSocketAddress local = (InetSocketAddress) channel.socket().getRemoteSocketAddress(); String host = local.getHostName(); String msg = "hello Client"; channel.write(charset.encode(msg)); System._out_.println(msg); key.interestOps(SelectionKey._OP_READ_); }private void receive(SelectionKey key) throws IOException { SocketChannel channel = (SocketChannel) key.channel(); ByteBuffer buffer = ByteBuffer.allocate(1024); channel.read(buffer); buffer.flip(); String receiveData = charset.decode(buffer).toString(); if ("".equals(receiveData)) { key.cancel(); channel.close(); return; }System._out_.println(receiveData); } }</pre>
