队列:队列在线程池等有限资源池中的
线程池没有空闲线程时,新的任务请求线程资源时,线程池该如何处理?各种处理策略又是如何实现的呢
- 我们一般有两种处理策略。第一种是非阻塞的处理方式,直接拒绝任务请求
- 另一种是阻塞的处理方式,将请求排队,等到有空闲线程时,取出排队的请求继续处理。那如何存储排队的请求呢?
如何存储排队请求
-
我们希望公平的处理每个排队的请求,先进者先服务,所以队列这种数据结构很适合来存储排队请求。队列有基于链表和基于数组两种实现方式
1. 基于链表的实现方式,可以实现一个支持无限排队的无界队列,但是可能会导致过多的请求排队等待, 请求处理的响应时间过长。所以针对响应时间比较敏感的系统,基于链表实现的无限排队的线程池是不合适的 2. 基于数组实现的有界队列,队列的大小有限,所以线程池种排队的请求超过队列大小时,接下来的请求就会 被拒绝,这种方式对响应时间敏感的系统来说,就相对更加合理。不过,设置一个合理的队列大小,也是非常有 讲究的。队列太大导致等待的请求太多,队列太小会导致无法充分利于系统资源、发挥最大性能。 复制代码
除了讲到队列应用在线程池请求排队的场景之外,队列可以应用在任何有限资源池种,用于排队请求,比如数据库连接池等实际上,对于大部分资源有限的场景,当没有空闲资源时,基本上都可以通过“队列”这种数据结构来实现请求排队