大多数并发都是通过任务执行的方式来实现的。一般有两种方式执行任务:串行和并行。
class SingleThreadWebServer { public static void main(String[] args) throws Exception { ServerSocket socket = new ServerSocket(80); while(true) { Socket conn = socket.accept(); handleRequest(conn); } } }class ThreadPerTaskWebServer { public static void main(String[] args) throws Exception { ServerSocket socket = new ServerSocket(80); while(true) { final Socket conn = socket.accept(); Runnable task = new Runnable() { public void run() { handleRequest(conn); } }; new Thread(task).start(); } } }
当然上面的这两种方式都是有问题的。单线程的问题就是并发量会是瓶颈,多线程版本就是无限制的创建线程会导致资源不足问题。
Executor 框架
任务是一组逻辑工作单元,而线程是使任务异步执行的机制。
JDK 提供了 Executor 接口:
public interface Executor { void execute(Runnable command); }
虽然 Executor 接口比较简单,但是却是异步任务执行框架的基础,该框架能支持多种不同类型的任务执行策略。它提供了一种标准的方式把任务的提交过程与执行过程进行了解耦。用 Runnable 来代表任务。Executor 的实现提供了对生命周期的支持以及统计信息应用程序管理等机制。
Executor 是基于生产者消费者模式的,提交任务的操作相当于生产者,执行任务的线程相当于消费。
基于 Executor 的 WebServer 例子如下:
public class TaskExecutorWebServer { private static final int NTHREADS = 100; private static final Executor exec = Executors.newFixedThreadPool(NTHREADS); public static void main(String[] args) throws Exception { ServerSocket serverSocket = new ServerSocket(80); while (true) { final Socket conn = serverSocket.accept(); Runnable task = new Runnable() { @Override public void run() { handleRequest(conn); } }; exec.execute(task); } } }
另外可以自己实现 Executor 来控制是并发还是并行的,如下面代码:
/** * 执行已提交的 Runnable 任务的对象。 * 此接口提供一种将任务提交与每个任务将如何运行的机制(包括线程使用的细节、调度等)分离开来的方法。 * 通常使用 Executor 而不是显式地创建线程。 * * * @author renchunxiao * */public class ExecutorDemo { public static void main(String[] args) { Executor executor = new ThreadExecutor(); executor.execute(new Runnable() { @Override public void run() { // do something } }); Executor executor2 = new SerialExecutor(); executor2.execute(new Runnable() { @Override public void run() { // do something } }); } }/** * 创建一个线程来执行 command * * @author renchunxiao * */class ThreadExecutor implements Executor { @Override public void execute(Runnable command) { new Thread(command).start(); } }/** * 串行执行 command * * @author renchunxiao * */class SerialExecutor implements Executor { @Override public void execute(Runnable command) { command.run(); } }
线程池
线程池就是线程的资源池,可以通过 Executors 中的静态工厂方法来创建线程池。
newFixedThreadPool。创建固定长度的线程池,每次提交任务创建一个线程,直到达到线程池的最大数量,线程池的大小不再变化。
newSingleThreadExecutor。单个线程池。
newCachedThreadPool。根据任务规模变动的线程池。
newScheduledThreadPool。创建固定长度的线程池,以延迟或定时的方式来执行任务。
JVM 只有在所有非守护线程全部终止后才会退出,所以,如果无法正确的关闭 Executor,那么 JVM 就无法结束。
为了解决执行服务的生命周期问题,有个扩展 Executor 接口的新接口 ExecutorService。
public interface ExecutorService extends Executor { void shutdown(); List<Runnable> shutdownNow(); boolean isShutdown(); boolean isTerminated(); boolean awaitTermination(long timeout, TimeUnit unit) throws InterruptedException; <T> Future<T> submit(Callable<T> task); <T> Future<T> submit(Runnable task, T result); Future<?> submit(Runnable task); <T> List<Future<T>> invokeAll(Collection<? extends Callable<T>> tasks) throws InterruptedException; <T> List<Future<T>> invokeAll(Collection<? extends Callable<T>> tasks, long timeout, TimeUnit unit) throws InterruptedException; <T> T invokeAny(Collection<? extends Callable<T>> tasks) throws InterruptedException, ExecutionException; <T> T invokeAny(Collection<? extends Callable<T>> tasks, long timeout, TimeUnit unit) throws InterruptedException, ExecutionException, TimeoutException; }
ExecutorService 生命周期有三种状态:运行、关闭、已终止。ExecutorService 在初始创建时处于运行状态。shutdown 方法会平缓关闭:不在接受新的任务,并且等待已经执行的任务执行完成(包括那些还未开始的任务)。shutdownNow 方法将粗暴关闭:它将尝试取消所有运行中的任务,并且不再启动队列中尚未开始的任务。所有任务都执行完成后进入到已终止状态。
Callable 和 Future
Executor 框架使用 Runnable 作为基本的任务表示形式。Runnable 是一种有局限性的抽象,它的 run 方法不能返回值和抛出一个受检查异常。
许多任务实际上是存在延时的计算,例如数据库查询,从网络获取资源。对于这些任务,Callable 是更好的抽象,它认为 call 将返回一个值,并且可能抛出异常。
Executor 执行的任务有四个生命周期阶段:创建、提交、开始和完成。由于有些任务需要很长时间有可能希望取消,在 Executor 框架当中,已提交未开始的任务可以取消。
Future 表示一个任务的生命周期,并且提供了相应的方法来判断是否已经完成或取消,以及获取任务的结果和取消任务等。