線程池的技術(shù)背景

在面向?qū)ο缶幊讨校瑒?chuàng)建和銷毀對(duì)象是很費(fèi)時(shí)間的，因?yàn)閯?chuàng)建一個(gè)對(duì)象要獲取內(nèi)存資源或者其它更多資源。在Java中更是如此，虛擬機(jī)將試圖跟蹤每一個(gè)對(duì)象，以便能夠在對(duì)象銷毀后進(jìn)行垃圾回收。

所以提高服務(wù)程序效率的一個(gè)手段就是盡可能減少創(chuàng)建和銷毀對(duì)象的次數(shù)，特別是一些很耗資源的對(duì)象創(chuàng)建和銷毀。如何利用已有對(duì)象來服務(wù)就是一個(gè)需要解決的關(guān)鍵問題，其實(shí)這就是一些”池化資源”技術(shù)產(chǎn)生的原因。

例如Android中常見到的很多通用組件一般都離不開”池”的概念，如各種圖片加載庫，網(wǎng)絡(luò)請(qǐng)求庫，即使Android的消息傳遞機(jī)制中的Meaasge當(dāng)使用Meaasge.obtain()就是使用的Meaasge池中的對(duì)象，因此這個(gè)概念很重要。本文將介紹的線程池技術(shù)同樣符合這一思想。

線程池的優(yōu)點(diǎn):

1.重用線程池中的線程,減少因?qū)ο髣?chuàng)建,銷毀所帶來的性能開銷;

2.能有效的控制線程的最大并發(fā)數(shù),提高系統(tǒng)資源利用率,同時(shí)避免過多的資源競爭,避免堵塞;

3.能夠多線程進(jìn)行簡單的管理,使線程的使用簡單、高效。

線程池框架Executor

java中的線程池是通過Executor框架實(shí)現(xiàn)的，Executor 框架包括類：Executor，Executors，ExecutorService，ThreadPoolExecutor ，Callable和Future、FutureTask的使用等。

Executor: 所有線程池的接口,只有一個(gè)方法。

public interface Executor {  
 void execute(Runnable command);  
}

ExecutorService: 增加Executor的行為，是Executor實(shí)現(xiàn)類的最直接接口。

Executors： 提供了一系列工廠方法用于創(chuàng)先線程池，返回的線程池都實(shí)現(xiàn)了ExecutorService 接口。

ThreadPoolExecutor：線程池的具體實(shí)現(xiàn)類,一般用的各種線程池都是基于這個(gè)類實(shí)現(xiàn)的。 構(gòu)造方法如下:

public ThreadPoolExecutor(int corePoolSize,
        int maximumPoolSize,
        long keepAliveTime,
        TimeUnit unit,
        BlockingQueue<Runnable> workQueue) {
this(corePoolSize, maximumPoolSize, keepAliveTime, unit, workQueue,

Executors.defaultThreadFactory(), defaultHandler);

}

corePoolSize：線程池的核心線程數(shù),線程池中運(yùn)行的線程數(shù)也永遠(yuǎn)不會(huì)超過 corePoolSize 個(gè),默認(rèn)情況下可以一直存活?？梢酝ㄟ^設(shè)置allowCoreThreadTimeOut為True,此時(shí) 核心線程數(shù)就是0,此時(shí)keepAliveTime控制所有線程的超時(shí)時(shí)間。

maximumPoolSize：線程池允許的最大線程數(shù);

keepAliveTime： 指的是空閑線程結(jié)束的超時(shí)時(shí)間;

unit ：是一個(gè)枚舉，表示 keepAliveTime 的單位;

workQueue：表示存放任務(wù)的BlockingQueue<Runnable隊(duì)列。

BlockingQueue:阻塞隊(duì)列（BlockingQueue）是java.util.concurrent下的主要用來控制線程同步的工具。如果BlockQueue是空的,從BlockingQueue取東西的操作將會(huì)被阻斷進(jìn)入等待狀態(tài),直到BlockingQueue進(jìn)了東西才會(huì)被喚醒。同樣,如果BlockingQueue是滿的,任何試圖往里存東西的操作也會(huì)被阻斷進(jìn)入等待狀態(tài),直到BlockingQueue里有空間才會(huì)被喚醒繼續(xù)操作。 阻塞隊(duì)列常用于生產(chǎn)者和消費(fèi)者的場景，生產(chǎn)者是往隊(duì)列里添加元素的線程，消費(fèi)者是從隊(duì)列里拿元素的線程。阻塞隊(duì)列就是生產(chǎn)者存放元素的容器，而消費(fèi)者也只從容器里拿元素。具體的實(shí)現(xiàn)類有LinkedBlockingQueue,ArrayBlockingQueued等。一般其內(nèi)部的都是通過Lock和Condition(顯示鎖（Lock）及Condition的學(xué)習(xí)與使用)來實(shí)現(xiàn)阻塞和喚醒。

線程池的工作過程如下：

線程池剛創(chuàng)建時(shí)，里面沒有一個(gè)線程。任務(wù)隊(duì)列是作為參數(shù)傳進(jìn)來的。不過，就算隊(duì)列里面有任務(wù)，線程池也不會(huì)馬上執(zhí)行它們。

當(dāng)調(diào)用 execute() 方法添加一個(gè)任務(wù)時(shí)，線程池會(huì)做如下判斷：

如果正在運(yùn)行的線程數(shù)量小于 corePoolSize，那么馬上創(chuàng)建線程運(yùn)行這個(gè)任務(wù)；

如果正在運(yùn)行的線程數(shù)量大于或等于 corePoolSize，那么將這個(gè)任務(wù)放入隊(duì)列；

如果這時(shí)候隊(duì)列滿了，而且正在運(yùn)行的線程數(shù)量小于 maximumPoolSize，那么還是要?jiǎng)?chuàng)建非核心線程立刻運(yùn)行這個(gè)任務(wù)；

如果隊(duì)列滿了，而且正在運(yùn)行的線程數(shù)量大于或等于 maximumPoolSize，那么線程池會(huì)拋出異常RejectExecutionException。

當(dāng)一個(gè)線程完成任務(wù)時(shí)，它會(huì)從隊(duì)列中取下一個(gè)任務(wù)來執(zhí)行。

當(dāng)一個(gè)線程無事可做，超過一定的時(shí)間（keepAliveTime）時(shí)，線程池會(huì)判斷，如果當(dāng)前運(yùn)行的線程數(shù)大于 corePoolSize，那么這個(gè)線程就被停掉。所以線程池的所有任務(wù)完成后，它最終會(huì)收縮到 corePoolSize 的大小。

線程池的創(chuàng)建和使用

生成線程池采用了工具類Executors的靜態(tài)方法，以下是幾種常見的線程池。

SingleThreadExecutor：單個(gè)后臺(tái)線程 (其緩沖隊(duì)列是無界的)

public static ExecutorService newSingleThreadExecutor() {  
 return new FinalizableDelegatedExecutorService (
  new ThreadPoolExecutor(1, 1,         
  0L, TimeUnit.MILLISECONDS,         
  new LinkedBlockingQueue<Runnable>())); 
}

創(chuàng)建一個(gè)單線程的線程池。這個(gè)線程池只有一個(gè)核心線程在工作，也就是相當(dāng)于單線程串行執(zhí)行所有任務(wù)。如果這個(gè)唯一的線程因?yàn)楫惓＝Y(jié)束，那么會(huì)有一個(gè)新的線程來替代它。此線程池保證所有任務(wù)的執(zhí)行順序按照任務(wù)的提交順序執(zhí)行。

FixedThreadPool：只有核心線程的線程池,大小固定 (其緩沖隊(duì)列是無界的) 。

public static ExecutorService newFixedThreadPool(int nThreads) {        
        return new ThreadPoolExecutor(nThreads, nThreads,                                      
            0L, TimeUnit.MILLISECONDS,                                        
            new LinkedBlockingQueue<Runnable>());    
}
創(chuàng)建固定大小的線程池。每次提交一個(gè)任務(wù)就創(chuàng)建一個(gè)線程，直到線程達(dá)到線程池的最大大小。線程池的大小一旦達(dá)到最大值就會(huì)保持不變，如果某個(gè)線程因?yàn)閳?zhí)行異常而結(jié)束，那么線程池會(huì)補(bǔ)充一個(gè)新線程。

CachedThreadPool：無界線程池，可以進(jìn)行自動(dòng)線程回收。

public static ExecutorService newCachedThreadPool() {   
 return new ThreadPoolExecutor(0,Integer.MAX_VALUE,           
   60L, TimeUnit.SECONDS,          
   new SynchronousQueue<Runnable>());  
}

如果線程池的大小超過了處理任務(wù)所需要的線程，那么就會(huì)回收部分空閑（60秒不執(zhí)行任務(wù)）的線程，當(dāng)任務(wù)數(shù)增加時(shí)，此線程池又可以智能的添加新線程來處理任務(wù)。此線程池不會(huì)對(duì)線程池大小做限制，線程池大小完全依賴于操作系統(tǒng)（或者說JVM）能夠創(chuàng)建的最大線程大小。SynchronousQueue是一個(gè)是緩沖區(qū)為1的阻塞隊(duì)列。

ScheduledThreadPool：核心線程池固定，大小無限的線程池。此線程池支持定時(shí)以及周期性執(zhí)行任務(wù)的需求。

public static ExecutorService newScheduledThreadPool(int corePoolSize) {   
 return new ScheduledThreadPool(corePoolSize, 
    Integer.MAX_VALUE,             
    DEFAULT_KEEPALIVE_MILLIS, MILLISECONDS,             
    new DelayedWorkQueue()); 
}

創(chuàng)建一個(gè)周期性執(zhí)行任務(wù)的線程池。如果閑置,非核心線程池會(huì)在DEFAULT_KEEPALIVEMILLIS時(shí)間內(nèi)回收。

線程池最常用的提交任務(wù)的方法有兩種：

execute:

ExecutorService.execute(Runnable runable)；

submit:

FutureTask task = ExecutorService.submit(Runnable runnable);
FutureTask<T> task = ExecutorService.submit(Runnable runnable,T Result);

FutureTask<T> task = ExecutorService.submit(Callable<T> callable);

submit(Callable callable)的實(shí)現(xiàn)，submit(Runnable runnable)同理。

public <T> Future<T> submit(Callable<T> task) {
 if (task == null) throw new NullPointerException();
 FutureTask<T> ftask = newTaskFor(task);
 execute(ftask);
 return ftask;
}

可以看出submit開啟的是有返回結(jié)果的任務(wù)，會(huì)返回一個(gè)FutureTask對(duì)象，這樣就能通過get()方法得到結(jié)果。submit最終調(diào)用的也是execute(Runnable runable)，submit只是將Callable對(duì)象或Runnable封裝成一個(gè)FutureTask對(duì)象，因?yàn)镕utureTask是個(gè)Runnable，所以可以在execute中執(zhí)行。關(guān)于Callable對(duì)象和Runnable怎么封裝成FutureTask對(duì)象，見Callable和Future、FutureTask的使用。

線程池實(shí)現(xiàn)的原理

如果只講線程池的使用，那這篇博客沒有什么大的價(jià)值，充其量也就是熟悉Executor相關(guān)API的過程。線程池的實(shí)現(xiàn)過程沒有用到Synchronized關(guān)鍵字，用的都是Volatile,Lock和同步(阻塞)隊(duì)列,Atomic相關(guān)類，F(xiàn)utureTask等等，因?yàn)楹笳叩男阅芨鼉?yōu)。理解的過程可以很好的學(xué)習(xí)源碼中并發(fā)控制的思想。

在開篇提到過線程池的優(yōu)點(diǎn)是可總結(jié)為以下三點(diǎn)：

線程復(fù)用

控制最大并發(fā)數(shù)

管理線程

1.線程復(fù)用過程

理解線程復(fù)用原理首先應(yīng)了解線程生命周期。

在線程的生命周期中，它要經(jīng)過新建(New)、就緒（Runnable）、運(yùn)行（Running）、阻塞(Blocked)和死亡(Dead)5種狀態(tài)。

Thread通過new來新建一個(gè)線程，這個(gè)過程是是初始化一些線程信息，如線程名，id,線程所屬group等，可以認(rèn)為只是個(gè)普通的對(duì)象。調(diào)用Thread的start()后Java虛擬機(jī)會(huì)為其創(chuàng)建方法調(diào)用棧和程序計(jì)數(shù)器，同時(shí)將hasBeenStarted為true,之后調(diào)用start方法就會(huì)有異常。

處于這個(gè)狀態(tài)中的線程并沒有開始運(yùn)行，只是表示該線程可以運(yùn)行了。至于該線程何時(shí)開始運(yùn)行，取決于JVM里線程調(diào)度器的調(diào)度。當(dāng)線程獲取cpu后，run()方法會(huì)被調(diào)用。不要自己去調(diào)用Thread的run()方法。之后根據(jù)CPU的調(diào)度在就緒——運(yùn)行——阻塞間切換，直到run()方法結(jié)束或其他方式停止線程，進(jìn)入dead狀態(tài)。

所以實(shí)現(xiàn)線程復(fù)用的原理應(yīng)該就是要保持線程處于存活狀態(tài)（就緒，運(yùn)行或阻塞）。接下來來看下ThreadPoolExecutor是怎么實(shí)現(xiàn)線程復(fù)用的。

在ThreadPoolExecutor主要Worker類來控制線程的復(fù)用。看下Worker類簡化后的代碼，這樣方便理解：

private final class Worker implements Runnable {
final Thread thread;

Runnable firstTask;

Worker(Runnable firstTask) {

this.firstTask = firstTask;

this.thread = getThreadFactory().newThread(this);

}

public void run() {

runWorker(this);

}

final void runWorker(Worker w) {

Runnable task = w.firstTask;

w.firstTask = null;

while (task != null || (task = getTask()) != null){

task.run();

}

}

Worker是一個(gè)Runnable，同時(shí)擁有一個(gè)thread，這個(gè)thread就是要開啟的線程，在新建Worker對(duì)象時(shí)同時(shí)新建一個(gè)Thread對(duì)象，同時(shí)將Worker自己作為參數(shù)傳入TThread，這樣當(dāng)Thread的start()方法調(diào)用時(shí)，運(yùn)行的實(shí)際上是Worker的run()方法，接著到runWorker()中,有個(gè)while循環(huán)，一直從getTask()里得到Runnable對(duì)象，順序執(zhí)行。getTask()又是怎么得到Runnable對(duì)象的呢？

依舊是簡化后的代碼：

private Runnable getTask() {
 if(一些特殊情況) {
  return null;
 }
Runnable r = workQueue.take();

return r;

}

這個(gè)workQueue就是初始化ThreadPoolExecutor時(shí)存放任務(wù)的BlockingQueue隊(duì)列，這個(gè)隊(duì)列里的存放的都是將要執(zhí)行的Runnable任務(wù)。因?yàn)锽lockingQueue是個(gè)阻塞隊(duì)列，BlockingQueue.take()得到如果是空，則進(jìn)入等待狀態(tài)直到BlockingQueue有新的對(duì)象被加入時(shí)喚醒阻塞的線程。所以一般情況Thread的run()方法就不會(huì)結(jié)束,而是不斷執(zhí)行從workQueue里的Runnable任務(wù)，這就達(dá)到了線程復(fù)用的原理了。

2.控制最大并發(fā)數(shù)

那Runnable是什么時(shí)候放入workQueue？Worker又是什么時(shí)候創(chuàng)建，Worker里的Thread的又是什么時(shí)候調(diào)用start()開啟新線程來執(zhí)行Worker的run()方法的呢？有上面的分析看出Worker里的runWorker()執(zhí)行任務(wù)時(shí)是一個(gè)接一個(gè)，串行進(jìn)行的，那并發(fā)是怎么體現(xiàn)的呢？

很容易想到是在execute(Runnable runnable)時(shí)會(huì)做上面的一些任務(wù)?？聪耬xecute里是怎么做的。

execute:

簡化后的代碼

public void execute(Runnable command) {
 if (command == null)
  throw new NullPointerException();
int c = ctl.get();

// 當(dāng)前線程數(shù) < corePoolSize

if (workerCountOf(c) < corePoolSize) {

// 直接啟動(dòng)新的線程。

if (addWorker(command, true))

return;

c = ctl.get();

}

// 活動(dòng)線程數(shù) >= corePoolSize

// runState為RUNNING && 隊(duì)列未滿

if (isRunning(c) && workQueue.offer(command)) {

int recheck = ctl.get();

// 再次檢驗(yàn)是否為RUNNING狀態(tài)

// 非RUNNING狀態(tài) 則從workQueue中移除任務(wù)并拒絕

if (!isRunning(recheck) && remove(command))

reject(command);// 采用線程池指定的策略拒絕任務(wù)

// 兩種情況：

// 1.非RUNNING狀態(tài)拒絕新的任務(wù)

// 2.隊(duì)列滿了啟動(dòng)新的線程失?。╳orkCount > maximumPoolSize）

} else if (!addWorker(command, false))

reject(command);

}

addWorker:

簡化后的代碼

private boolean addWorker(Runnable firstTask, boolean core) {
int wc = workerCountOf(c);

if (wc >= (core ? corePoolSize : maximumPoolSize)) {

return false;

}

w = new Worker(firstTask);

final Thread t = w.thread;

t.start();

}

根據(jù)代碼再來看上面提到的線程池工作過程中的添加任務(wù)的情況：

* 如果正在運(yùn)行的線程數(shù)量小于 corePoolSize，那么馬上創(chuàng)建線程運(yùn)行這個(gè)任務(wù)；  
* 如果正在運(yùn)行的線程數(shù)量大于或等于 corePoolSize，那么將這個(gè)任務(wù)放入隊(duì)列；
* 如果這時(shí)候隊(duì)列滿了，而且正在運(yùn)行的線程數(shù)量小于 maximumPoolSize，那么還是要?jiǎng)?chuàng)建非核心線程立刻運(yùn)行這個(gè)任務(wù)；
* 如果隊(duì)列滿了，而且正在運(yùn)行的線程數(shù)量大于或等于 maximumPoolSize，那么線程池會(huì)拋出異常RejectExecutionException。

這就是Android的AsyncTask在并行執(zhí)行是在超出最大任務(wù)數(shù)是拋出RejectExecutionException的原因所在，詳見基于最新版本的AsyncTask源碼解讀及AsyncTask的黑暗面

通過addWorker如果成功創(chuàng)建新的線程成功，則通過start()開啟新線程，同時(shí)將firstTask作為這個(gè)Worker里的run()中執(zhí)行的第一個(gè)任務(wù)。

雖然每個(gè)Worker的任務(wù)是串行處理，但如果創(chuàng)建了多個(gè)Worker，因?yàn)楣灿靡粋€(gè)workQueue，所以就會(huì)并行處理了。

所以根據(jù)corePoolSize和maximumPoolSize來控制最大并發(fā)數(shù)。大致過程可用下圖表示。

上面的講解和圖來可以很好的理解的這個(gè)過程。

如果是做Android開發(fā)的，并且對(duì)Handler原理比較熟悉，你可能會(huì)覺得這個(gè)圖挺熟悉，其中的一些過程和Handler，Looper，Meaasge使用中，很相似。Handler.send(Message)相當(dāng)于execute(Runnuble)，Looper中維護(hù)的Meaasge隊(duì)列相當(dāng)于BlockingQueue，只不過需要自己通過同步來維護(hù)這個(gè)隊(duì)列，Looper中的loop()函數(shù)循環(huán)從Meaasge隊(duì)列取Meaasge和Worker中的runWork()不斷從BlockingQueue取Runnable是同樣的道理。

3.管理線程

通過線程池可以很好的管理線程的復(fù)用，控制并發(fā)數(shù)，以及銷毀等過程,線程的復(fù)用和控制并發(fā)上面已經(jīng)講了，而線程的管理過程已經(jīng)穿插在其中了，也很好理解。

在ThreadPoolExecutor有個(gè)ctl的AtomicInteger變量。通過這一個(gè)變量保存了兩個(gè)內(nèi)容：

所有線程的數(shù)量 每個(gè)線程所處的狀態(tài) 其中低29位存線程數(shù)，高3位存runState，通過位運(yùn)算來得到不同的值。

private final AtomicInteger ctl = new AtomicInteger(ctlOf(RUNNING, 0));
//得到線程的狀態(tài)

private static int runStateOf(int c) {

return c & ~CAPACITY;

}

//得到Worker的的數(shù)量

private static int workerCountOf(int c) {

return c & CAPACITY;

}

// 判斷線程是否在運(yùn)行

private static boolean isRunning(int c) {

return c < SHUTDOWN;

}

這里主要通過shutdown和shutdownNow()來分析線程池的關(guān)閉過程。首先線程池有五種狀態(tài)來控制任務(wù)添加與執(zhí)行。主要介紹以下三種：

RUNNING狀態(tài)：線程池正常運(yùn)行，可以接受新的任務(wù)并處理隊(duì)列中的任務(wù)；

SHUTDOWN狀態(tài)：不再接受新的任務(wù)，但是會(huì)執(zhí)行隊(duì)列中的任務(wù)；

STOP狀態(tài)：不再接受新任務(wù)，不處理隊(duì)列中的任務(wù) shutdown這個(gè)方法會(huì)將runState置為SHUTDOWN，會(huì)終止所有空閑的線程，而仍在工作的線程不受影響，所以隊(duì)列中的任務(wù)人會(huì)被執(zhí)行。

shutdownNow方法將runState置為STOP。和shutdown方法的區(qū)別，這個(gè)方法會(huì)終止所有的線程，所以隊(duì)列中的任務(wù)也不會(huì)被執(zhí)行了。

總結(jié)
通過對(duì)ThreadPoolExecutor源碼的分析，從總體上了解了線程池的創(chuàng)建，任務(wù)的添加，執(zhí)行等過程，熟悉這些過程，使用線程池就會(huì)更輕松了。

而從中學(xué)到的一些對(duì)并發(fā)控制，以及生產(chǎn)者——消費(fèi)者模型任務(wù)處理的使用，對(duì)以后理解或解決其他相關(guān)問題會(huì)有很大的幫助。比如Android中的Handler機(jī)制，而Looper中的Messager隊(duì)列用一個(gè)BlookQueue來處理同樣是可以的,這寫就是讀源碼的收獲吧。

以上就是對(duì)Java 線程池的資料整理，后續(xù)繼續(xù)補(bǔ)充相關(guān)資料，謝謝大家對(duì)本站的支持！