线程池相关介绍和底层原理

68 阅读8分钟

一、为什么使用线程池

线程池的工作主要是控制运行的线程数量,处理过程中将任务放入队列。然后在线程创建后启动这些任务,如果线程数量超过了最大数量,超出数量的线程排队等候,等其他的线程执行完毕,再从队列中取出任务执行。 线程池的主要特点是:线程复用,控制最大并发数,管理线程。 优点: 1. 降低资源消耗。通过重复利用已经创建的线程降低线程创建和销毁造成的消耗。 2.提高响应速度。当任务到达时,任务可以不需要等到线程创建就能立即执行。 3.提高线程的可管理性。线程是稀缺资源,如果无限制的创建,不仅会消耗系统资源,还会降低系统的稳定性,使用线程池可以进行统一的分配,调优和监控。

二、常用的线程池

java中的线程池是通过Executor框架实现的,该框架中用到了Executor,Executors(Executor的工具类),ExecutorService,ThreadPoolExecutor 这几个类。

在这里插入图片描述

java提供了5中方式来创建线程池: ExecutorService newFixedThreadPool(int nThreads)
ExecutorService newSingleThreadExecutor() ExecutorService newCachedThreadPool() ScheduledExecutorService newScheduledThreadPool(int corePoolSize) ExecutorService newWorkStealingPool(int parallelism)

下面对重要的几个进行讲解。

FixedThreadPool

FixedThreadPool固定数量线程池,nThreads为线程池中线程的数量。适用于执行长期的任务,性能好很多。

import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;

public class MyThreadPoolDemo {

    public static void main(String[] args) {
        // 创建线程池使用Executor的工具类Executors创建
        ExecutorService executorService = Executors.newFixedThreadPool(5);
        try {
            for (int i = 0; i < 10; i++) {
                executorService.submit(() -> {
                    System.out.println(Thread.currentThread().getName()+"\t办理业务");
                });
            }
        }catch (Exception e) {
            e.printStackTrace();
        } finally {
            // 关闭线程池
            executorService.shutdown();
        }
    }
}

看一下执行结果:

pool-1-thread-2	办理业务
pool-1-thread-4	办理业务
pool-1-thread-3	办理业务
pool-1-thread-1	办理业务
pool-1-thread-5	办理业务
pool-1-thread-2	办理业务
pool-1-thread-3	办理业务
pool-1-thread-1	办理业务
pool-1-thread-5	办理业务
pool-1-thread-4	办理业务

由执行结果可以看出最大线程编号是5,也就是我们在创建线程池的时候newFixedThreadPool(5)的线程池中线程的数量。说明FixedThreadPool中固定有5个工作线程。

SingleThreadExecutor

SingleThreadExecutor线程池中只有一个工作线程。适用于一个任务一个任务执行的场景。

import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;

public class MyThreadPoolDemo {

    public static void main(String[] args) {
        // 创建线程池使用Executor的工具类Executors创建
        ExecutorService executorService = Executors.newSingleThreadExecutor();
        try {
            for (int i = 0; i < 10; i++) {
                executorService.submit(() -> {
                    System.out.println(Thread.currentThread().getName()+"\t办理业务");
                });
            }
        }catch (Exception e) {
            e.printStackTrace();
        } finally {
            // 关闭线程池
            executorService.shutdown();
        }
    }
}

来看执行结果:

pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务

由执行结果可以看出线程池中只有一个线程在进行处理业务,说明SingleThreadExecutor是一个单一的线程池,也就是线程池中一直都是有一个线程进行处理业务。

CachedThreadPool

CachedThreadPool线程池中的线程数量不固定,根据具体的代码业务和硬件不同分配不同的线程数量。适用于执行很多短期异步的小程序或者负载较轻的服务器。

import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;

public class MyThreadPoolDemo {

    public static void main(String[] args) {
        // 创建线程池使用Executor的工具类Executors创建
        ExecutorService executorService = Executors.newCachedThreadPool();
        try {
            for (int i = 0; i < 10; i++) {
                executorService.submit(() -> {
                    System.out.println(Thread.currentThread().getName()+"\t办理业务");
                });
            }
        }catch (Exception e) {
            e.printStackTrace();
        } finally {
            // 关闭线程池
            executorService.shutdown();
        }
    }
}

执行结果:

pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-2	办理业务
pool-1-thread-3	办理业务
pool-1-thread-2	办理业务
pool-1-thread-1	办理业务
pool-1-thread-4	办理业务
pool-1-thread-1	办理业务
pool-1-thread-2	办理业务
pool-1-thread-3	办理业务

结果是创建了四个线程。

接下来我们在循环中加一行代码使程序睡眠,目的是保证每一条线程有充足的的时间去执行完相应的代码。

public class MyThreadPoolDemo {

    public static void main(String[] args) {
        // 创建线程池使用Executor的工具类Executors创建
        ExecutorService executorService = Executors.newCachedThreadPool();
        try {
            for (int i = 0; i < 10; i++) {
                executorService.submit(() -> {
                    System.out.println(Thread.currentThread().getName()+"\t办理业务");
                });
                // 保证每一条线程有充足的的时间去执行完相应的代码。
                TimeUnit.MILLISECONDS.sleep(200);
            }
        }catch (Exception e) {
            e.printStackTrace();
        } finally {
            // 关闭线程池
            executorService.shutdown();
        }
    }
}

我们再看一下执行结果:

pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务

发现线程池中只有一个线程在工作。

三、线程池的七大参数

在上面的三个常用的线程池中,我们看一下java的源码:

我们发现三个线程池都是使用ThreadPoolExecutor对象创建的,其中还用到了阻塞队列:BlockingQueue。对于不了解阻塞队列的小伙伴请查看这篇文章: java中的阻塞队列.

public ThreadPoolExecutor(int corePoolSize,
                              int maximumPoolSize,
                              long keepAliveTime,
                              TimeUnit unit,
                              BlockingQueue<Runnable> workQueue) {
        this(corePoolSize, maximumPoolSize, keepAliveTime, unit, workQueue,
             Executors.defaultThreadFactory(), defaultHandler);
    }

我们通过源码来看一下各个线程池:

// 创建一个定长线程池,可控制线程最大并发数,超出的线程会在队列中等待
// newFixedThreadPool创建的线程池corePoolSize(核心线程数)和maximumPoolSize(最大线程数)是一样的,使用的是LinkedBlockingQueue阻塞队列。
public static ExecutorService newFixedThreadPool(int nThreads) {
        return new ThreadPoolExecutor(nThreads, nThreads,
                                      0L, TimeUnit.MILLISECONDS,
                                      new LinkedBlockingQueue<Runnable>());
}

// 创建一个单线程化的线程池,他只会用唯一的工作线程来执行任务,保证所有任务按照指定顺序执行。
// newSingleThreadExecutor将corePoolSize(核心线程数)和maximumPoolSize(最大线程数)都设置为1,使用的是LinkedBlockingQueue阻塞队列。
public static ExecutorService newSingleThreadExecutor() {
        return new FinalizableDelegatedExecutorService
            (new ThreadPoolExecutor(1, 1,
                                    0L, TimeUnit.MILLISECONDS,
                                    new LinkedBlockingQueue<Runnable>()));
}

// 创建一个可缓存的线程池,如果线程池长度超过处理需要,可灵活回收空闲线程,若无可回收,则新建线程。
// newCachedThreadPool将corePoolSize(核心线程数)设置为0,将maximumPoolSize(最大线程数)设置为Integer.MAX_VALUE,使用的SynchronousQueue,也就是说来了任务就创建线程运行,当线程空闲时间超过60秒,则回收线程。
public static ExecutorService newCachedThreadPool() {
        return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
                                      60L, TimeUnit.SECONDS,
                                      new SynchronousQueue<Runnable>());
}

我们可以发现上边介绍的三个线程池只有五个参数,但是通过底层的源码来看:

public ThreadPoolExecutor(int corePoolSize,
                              int maximumPoolSize,
                              long keepAliveTime,
                              TimeUnit unit,
                              BlockingQueue<Runnable> workQueue) {
        this(corePoolSize, maximumPoolSize, keepAliveTime, unit, workQueue,
             Executors.defaultThreadFactory(), defaultHandler);
    }

又调用了七参的构造方法。

public ThreadPoolExecutor(int corePoolSize,
                              int maximumPoolSize,
                              long keepAliveTime,
                              TimeUnit unit,
                              BlockingQueue<Runnable> workQueue,
                              ThreadFactory threadFactory,
                              RejectedExecutionHandler handler) {
        if (corePoolSize < 0 ||
            maximumPoolSize <= 0 ||
            maximumPoolSize < corePoolSize ||
            keepAliveTime < 0)
            throw new IllegalArgumentException();
        if (workQueue == null || threadFactory == null || handler == null)
            throw new NullPointerException();
        this.acc = System.getSecurityManager() == null ?
                null :
                AccessController.getContext();
        this.corePoolSize = corePoolSize;
        this.maximumPoolSize = maximumPoolSize;
        this.workQueue = workQueue;
        this.keepAliveTime = unit.toNanos(keepAliveTime);
        this.threadFactory = threadFactory;
        this.handler = handler;
    }

下边来详细介绍一下七个参数的含义: corePoolSize: 线程池中的常驻核心线程数。在创建了线程池之后,当有请求任务来之后们就会安排池中的线程去执行请求任务,当线程池中的线程数目达到了corePoolSize后,就会把到达的任务放在缓存队列当中。 maximumPoolSize:线程池能够容纳同时之心的最大线程数,此值必须大于1。 keepAliveTime: 多余的空闲线程存活时间。当前线程池数量超过corePoolSize时,当空闲时间达到keepAliveTime值时,多余空闲线程会被销毁直到剩下corePoolSize个线程为止。 unit: keepAliveTime的单位。 workQueue:任务队列,被提交但尚未被执行的任务。 threadFactory:表示生成线程池中工作线程的线程工厂,用于创建线程,一般用默认即可。 handler:拒绝策略,表示当队列满了并且工作线程大于等于线程池的最大线程数。

四、线程池的底层原理

在这里插入图片描述 在这里插入图片描述

  1. 在创建了线程池后,等待提交过来的任务请求。
  2. 当调用execute()方法添加一个请求任务时,线程池会做如下判断: 2.1 如果正在执行的线程数量小于corePoolSize,那么马上创建线程运行这个任务; 2.2 如果正在运行的线程数量大于或者等于corePoolSize,那么将这个任务放入队列; 2.3 如果这时候队列满了且正在运行的线程数量还小于maximumPoolSize,那么还是要创建非核心线程立刻运行这个任务; 2.4 如果队列满了且正在运行的线程数量大于或等于maximumPoolSize,那么线程池会启动饱和拒绝策略来执行。
  3. 当一个线程完成任务时,他会从队列中取下一个任务来执行。
  4. 当一个线程无事可做超过一定时间 (keepAliveTime)时,线程池会判断: 如果当前运行的线程数大于corePoolSize,那么这个线程就会被停掉。 所以线程池的所有任务完成后他最终会收缩到corePoolSize的大小。

五、线程池的拒绝策略

当等待队列满了,线程池的max线程也达到了,无法继续为新任务服务,这时候我们就需要拒绝策略机制合理的处理这个问题。

拒绝策略有四种:

  1. AbortPolicy(默认):直接抛出RejectedExecutionException异常阻止系统正常运行。
  2. CallerRunsPolicy:调用者运行一种调节机制,该策略既不会抛弃任务,也不会抛出异常,而是将某些任务回退给调用者,从而降低新任务的流量。
  3. DiscardOldestPolicy:抛弃队列中等待最久的任务,然后吧当前任务接入队列中尝试再次提交当前任务。
  4. DiscardPolicy:直接丢弃任务,不予任何处理也不抛出异常。如果允许任务丢失,这是最好的一种方案。

六、线程池在工作中的使用

在面试的时候面试官可能会问你一个这样的问题:在工作中你使用哪一种线程池呢?记住,一定不要回答上边介绍过的线程池。这个是一个大坑。正确的回答应该是通过自己创建线程池使用。为什么呢? 在阿里巴巴的开发手册中有这样一段: 在这里插入图片描述 接下来我们自己使用写一个demo来感受一下自己如何自定义线程,并感受一下不同的拒绝策略的使用。

import java.util.concurrent.*;

public class MyThreadPoolDemo1 {

    public static void main(String[] args) {
        ExecutorService threadPool = new ThreadPoolExecutor(2,
                5,
                1L,
                TimeUnit.SECONDS,
                new LinkedBlockingQueue<Runnable>(3),
                Executors.defaultThreadFactory(),
                new ThreadPoolExecutor.AbortPolicy());

        try {
        
            for (int i = 1; i <= 5; i++) {
                threadPool.execute(() -> {
                    System.out.println(Thread.currentThread().getName()+"\t办理业务");
                });
            }
        }catch (Exception e) {
            e.printStackTrace();
        } finally {
            // 关闭线程池
            threadPool.shutdown();
        }
    }
}

此时线程池没有触发拒绝策略,正常执行,但是当循环次数增加,线程池中使用的线程也会增加,直到线程池中工作线程达到最大线程数量,没法再有多余的线程处理任务,触发拒绝策略。我的电脑循环次数达到12的时候(不同电脑可能数值不一样)出现以下结果:

pool-1-thread-1	办理业务
pool-1-thread-3	办理业务
pool-1-thread-1	办理业务
pool-1-thread-2	办理业务
pool-1-thread-1	办理业务
pool-1-thread-3	办理业务
pool-1-thread-4	办理业务
pool-1-thread-1	办理业务
pool-1-thread-5	办理业务
pool-1-thread-2	办理业务
java.util.concurrent.RejectedExecutionException: Task com.chunqiu.learn.thread.demo.MyThreadPoolDemo1$$Lambda$1/931919113@7b23ec81 rejected from java.util.concurrent.ThreadPoolExecutor@6acbcfc0[Running, pool size = 5, active threads = 0, queued tasks = 0, completed tasks = 10]
	at java.util.concurrent.ThreadPoolExecutor$AbortPolicy.rejectedExecution(ThreadPoolExecutor.java:2063)
	at java.util.concurrent.ThreadPoolExecutor.reject(ThreadPoolExecutor.java:830)
	at java.util.concurrent.ThreadPoolExecutor.execute(ThreadPoolExecutor.java:1379)
	at com.chunqiu.learn.thread.demo.MyThreadPoolDemo1.main(MyThreadPoolDemo1.java:18)

AbortPolicy这种拒绝策略直接抛出了异常,阻止了程序正常运行,所以一般生产上不用。

拒绝策略换成CallerRunsPolicy,再次执行:

pool-1-thread-1	办理业务
pool-1-thread-4	办理业务
pool-1-thread-3	办理业务
pool-1-thread-2	办理业务
pool-1-thread-3	办理业务
pool-1-thread-4	办理业务
pool-1-thread-1	办理业务
pool-1-thread-3	办理业务
main	办理业务
pool-1-thread-2	办理业务
pool-1-thread-5	办理业务
pool-1-thread-2	办理业务

发现有一个main线程,说明CallerRunsPolicy这种拒绝策略是将任务回退给调用者来执行任务。

拒绝策略换成DiscardOldestPolicy,运行结果(循环了12次):

pool-1-thread-1	办理业务
pool-1-thread-4	办理业务
pool-1-thread-3	办理业务
pool-1-thread-5	办理业务
pool-1-thread-2	办理业务
pool-1-thread-3	办理业务
pool-1-thread-2	办理业务
pool-1-thread-5	办理业务
pool-1-thread-4	办理业务
pool-1-thread-1	办理业务

但输出结果只有11个,说明抛弃队列中的任务,也就是等待最久的任务。 拒绝策略换成DiscardPolicy运行结果(循环25次):

pool-1-thread-1	办理业务
pool-1-thread-2	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-2	办理业务
pool-1-thread-3	办理业务
pool-1-thread-3	办理业务
pool-1-thread-1	办理业务
pool-1-thread-1	办理业务
pool-1-thread-2	办理业务
pool-1-thread-4	办理业务
pool-1-thread-1	办理业务
pool-1-thread-2	办理业务
pool-1-thread-3	办理业务
pool-1-thread-4	办理业务
pool-1-thread-5	办理业务
pool-1-thread-4	办理业务
pool-1-thread-5	办理业务
pool-1-thread-1	办理业务
pool-1-thread-3	办理业务
pool-1-thread-2	办理业务

只有22个,说明也是抛弃了部分任务。

结尾

关于线程池的介绍已经结束了,感谢各位的耐心阅读,也欢迎各位大佬提出问题,互相交流。