并发处理的广泛应用是使得Amdahl定律代替摩尔定律成为计算机性能发展源动力的根本原因,也是人类压榨计算机运算能力最有力的武器。

概述

除了充分利用计算机处理器的能力外,一个服务端同时对多个客户端提供服务是一个具体的并发应用的场景。衡量一个服务器性能的高低好坏,每秒事务处理数(Transactions Per Second,TPS)是最重要的指标之一,它代表着一秒内服务端平均能响应的请求总数,二TPS值与程序的并发能力又有非常密切的关系。对于计算量相同的任务,程序线程并发协调得越有条不紊,效率自然就会越高;反之,线程之间频繁阻塞甚至死锁,将会大大降低程序的并发能力。

服务端是Java语言最擅长的领域之一,这个领取的应用占了Java应用中最大的一块份额,不过如何写好并发应用程序确实程序开发的难点之一,处理好并发方面的问题通常需要更多的经验。无论语言、中间件和框架如何先进,我们都不能期望它们能独立完成并发处理的所有事情,了解并发的内幕也是不可缺少的课程。

硬件的效率与一致性

由于计算机的存储设备与处理器的运算速度之间有着几个数量级的差距,所以现代计算机系统都不得不加入一层读写尽可能接近处理器运算速度的高速缓存(Cache)来作为内存与处理器之间的缓冲:将运算需要使用的数据赋值到缓存中,让运算能快速进行,当运算结束后再从缓存同步回内存之中,这样处理器就无须等待缓慢的内存读写了。

基于高速缓存的存储交互很好地解决了处理器与内存地速度矛盾,但是也引入了新的问题:缓存一致性(Cache Coherence)。每个处理器都有自己地高速缓存,而它们又共享同一主内存(Main Memory)。当多个处理器地运算任务都涉及同一块主内存区域时,将可能导致各自地缓存数据不一致地情况。为了解决一致性地问题,需要各个处理器访问缓存时都遵循一些协议,在读写时要根据协议来进行操作。Java虚拟机内存模型中定义地内存访问操作与硬件地缓存访问操作时具有可比性地。

处理器、高速缓存、主内存之间地交互关系
处理器、高速缓存、主内存之间地交互关系

为了使得处理器内部地运算单元能尽量被充分利用,处理器可能会对输入代码进行乱序执行(Out-Of-Order Execution)优化,处理器会在计算之后将乱序执行地结果重组,保证该结果与顺序执行地结果是一致的,但并不保证程序中各个语句计算的先后顺序与输入代码的顺序一致,因此如果存在一个计算任务依赖另一个计算任务的中间结果,那么其顺序性并不能靠代码的先后顺序来保证。与处理器的乱序执行优化类似,Java虚拟机的即时编译器中也有类似的指令重排序(Instruction Reorder)优化。

Java内存模型

Java虚拟机规范中试图定义一种Java内存模型(Java Memory Model,JMM)来屏蔽掉各种硬件和操作系统的内存访问差异,以实现Java程序在各种平台下都能达到一致的并发效果。

主内存与工作内存

Java内存模型的主要目标是定义程序中各个变量的访问规则,即在虚拟机中将变量存储到内存和从内存中取出来变量这样的底层细节。此处的变量与Java编程中所说的变量有区别,它包括了实例字段、静态字段和构成数组对象的元素,但是不包括局部变量与方法参数,因为后者是线程私有的,不会被共享,自然就不存在竞争问题。

为了获得较好的执行效能,Java内存模型并没有限制执行引擎使用处理器的特定寄存器或缓存来和主内存进行交互,也没有限制即时编译器调整代码执行顺序这类权利。

Java内存模型规定了所有变量都存储在主内存(Main Memory)中。每条线程还有自己的工作内存(Working Menory,类比高速缓存),线程的工作内存中保存了该线程使用到的变量的主内存副本拷贝,线程对变量的所有操作都必须在工作内存中进行,而不能直接读写主内存中的变量。不同的线程之间也无法直接访问对方工作内存中的变量,线程间变量的值传递均需要通过主内存来完成。

线程、主内存、工作内存三者的交互关系
线程、主内存、工作内存三者的交互关系

这里所讲的主内存、工作内存与Java内存区域中的Java堆、栈、方法区等并不是同一个层次的内存划分。从变量、主内存、工作内存的定义来看,主内存主要对应Java堆中对象的实例数据部分,而工作内存则对应于虚拟机栈中的部分区域。从更低的层次来说,主内存就是硬件的内存,而为了获得更好的运行速度,虚拟机及硬件系统可能会让工作内存优先存储与寄存器和高速缓存中。

内存间交互操作

关于主内存与工作内存之间具体的交互协议,即一个变量如何从主内存拷贝到工作内存、如何从工作内存同步回主内存之类的实现细节,Java内存模型顶了八种操作来完成:

  • lock(锁定):作用于主内存的变量,它把一个变量标识为一条线程独占的状态。
  • unlock(解锁):作用于主内存的变量,它把一个处于锁定状态的变量释放出来,释放后的变量才可以被其他线程锁定。
  • read(读取):作用于主内存的变量,它把一个变量的值从主内存传输到线程的工作内存中,以便随后的load动作使用。
  • load(载入):作用于工作内存的变量,它把read操作从内主内存得到的变量值放入工作内存的变量副本中。
  • use(使用):作用于工作内存的变量,它把工作内存中一个变量的值传递给执行引擎,每当虚拟机遇到一个需要使用到变量的值的字节码指令时将会执行这个操作。
  • assign(赋值):作用于工作内存的变量,它把一个从执行引擎接收到的值赋值给工作内存的变量,每当虚拟机遇到一个给变量赋值的字节码指令时执行这个操作。
  • store(存储):作用于工作内存的变量,它把工作内存中一个变量的值传递到主内存中,以便随后的write操作使用。
  • write(写入):作用于主内存的变量,它把store操作从工作内存中得到的变量值放入主内存的变量中。

如果要把一个变量从主内存复制到工作内存,那就要按顺序执行readload操作,如果要把变量从工作内存同步回主内存,就要按顺序地执行storewrite操作。

Java内存模型只要求上述两个操作必须按顺序执行,而没有保证必须连续执行。

Java内存模型还规定了在执行上述八种基本操作时必须满足:

  • 不允许readloadstorewrite操作之一单独出现,即不允许一个变量从主内存读取了但工作内存不接受,或者从工作内存发起回写了但主内存不接受地情况出现。
  • 不允许一个线程丢弃它最忌你地assign操作,即变量在工作内存中改变了之后必须把该变化同步回主内存。
  • 不允许一个线程无原因地把数据从线程地工作内存同步回主内存中。
  • 一个新的变量只能在主内存中诞生,不允许在工作内存中直接使用一个未被初始化(loadassign)的变量,换句话说就是对一个变量实施usestore操作之前,必须先执行过了assignload操作。
  • 一个变量在同一个时刻只允许一条线程对其进行lock操作,但lock操作可以被同一条线程重复执行多次,多次执行lock后,只有执行相同次数的unlock操作,变量才会被解锁。
  • 如果对一个变量执行lock操作,将会晴空工作内存中此变量的值,在执行引擎使用这个变量前,需要重新执行loadassign操作初始化变量的值。
  • 如果一个变量事先没有被lock操作锁定,则不允许对它执行unlock操作;也不允许unlock一个被其他线程锁定住的变量。
  • 对一个变量执行unlock操作之前,必须先把此变量同步回住内存中(执行storewrite操作)。

对于volatile型变量的特殊规则

关键字volatile可以说是Java虚拟机提供的最轻量级的同步机制,但是它并不容易被正确地、完整地理解,以至于很多时候都不去使用它,遇到需要处理多线程数据竞争的时候一律使用synchronize来进行同步。

点这里阅读关于volatile的另一篇文章

当一个变量被定义成volatile之后,它将具备两种特性:

第一

保证此变量对所有线程的可见性,这里的“可见性”是指当一条线程修改了这个变量的值,新值对于其他线程来说是可以立即得知的。而普通变量不能做到这一点,变量值在线程间传递均需要通过主内存来完成。

volatile变量在各个线程的工作内存中不存在一执行问题(在各个线程的工作内存中volatile变量也可以存在不一致的情况,但是由于每次使用之前都要先刷新,执行引擎看不到不一致的情况,因此可以认为不存在一执行问题),但是Java里面的运算并非原子操作,导致volatile变量的运算在并发下一样不是安全的。

一条字节码指令在解释执行时,解释器将要运行许多行代码才能实现它的语义,如果是编译执行,一条字节码指令也可能转化成若干条本地机器码指令。

由于volatile变量只能保证可见性,在不符合以下两种规则的运算场景中,仍然要通过枷锁(使用synchronizedjava.util.concurrent中的原子类)来保证原子性。

  1. 运算结果并不依赖变量的当前值,或者能够确保只有单一的线程修改变量的值。
  2. 变量不需要与其他的状态变量共同参与不变约束。

使用使用volatile来控制并发的代码:

1
2
3
4
5
6
7
8
9
10
11
volatile boolean shutdownRequested;

public void shutdown() {
shutdownRequested = false;
}

public void doWork() {
while (!shutdownRequested) {
// do stuff
}
}

第二

禁止指令重排序优化,普通的变量仅仅会保证在该方法的执行过程中所有依赖赋值结果的地方都能获取到正确的结果,而不能保证变量赋值操作的顺序与程序代码中的执行顺序一致。因为在一个线程的方法执行过程中无法感知到这点,这就是Java内存模型中描述的所谓的“线程内存表现为串行的语义”(Within-Thread As-If-Serial Semantics)。

指令重排序会干扰程序的并罚执行的例子:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
Map configOptions;
char[] configText;
// 此变量必须定义为volatile
volatile boolean initialized = false;
// 假设以下代码在线程A中执行
// 模拟读取配置信息,当读取完成后,将initialized设置为true来通知其他线程配置可用
configOptions = new HashMap();
configText = readConfigFile(fileName);
processConfigOptions(configText, configOptions);
initialized = true;

// 假设以下代码在线程B中执行
// 等待initialized为true,代表线程A已经把配置信息初始化完成 
while (!initialized) {
sleep();
}
// 使用线程A中初始化好的配置信息
doSomethingWithConfig();

这段伪代码描述的场景十分常见,只是我们在处理配置文件时一般不会出现并发而已。如果initialized没有使用volatile修饰,就可能会由于指令重排序的优化,导致线程A中最后一句中的“initialized = true;”被提前执行,这样线程B中使用配置信息的代码就可能出现错误,而volatile可以避免这类情况的发生。

Java内存模型中对volatile变量定义的特殊规则。

假定T表示一个线程,V和W分别表示两个volatile型变量,那么在进行readloaduseasignstorewrite操作时需要满足如下的规则:

  • 只有当线程T对变量V执行的前一个动作时load的时候,线程T才能对变量V执行use动作;并且,只有线程T对变量V执行的后一个动作时use的时候,线程T才能对V执行load动作。程序T对变量V的use动作可以认为是与线程T对变量V的loadread动作相关联的,必须一起连续出现。(这条规则要求在工作内存中,每次使用V前都必须从主内存刷新最先的值,用于保证能看见其他线程对变量V所做的修改后的值)。
  • 只有当线程T对变量V执行的前一个动作时assign的时候, 线程T才能对变量V执行store动作;并且,只有当线程T对变量执行的后一个动作时store的时候,线程T才能对变量V执行assign动作。线程T对变量V的assign动作可以认为是与线程T对变量V的storewrity动作相关联的,必须一起连续出现(这条规则要求在工作内存中,每次修改V后都必须立刻同步回主内存中,用于保证其他线程可以看到自己对变量V所做的的修改)。
  • 假定动作A是线程T对变量V实施的useassign动作,假定动作F是与动作A相关联的loadstore动作,假定动作P是与动作F相应的对变量V的readwrite动作;类似的,假定动作B是线程T对变量W实施的useassign动作,假定动作G是与动作B相关的loadstore动作,假定动作Q是与动作G相应的对变量W的readwrite动作。如果A先于B,那么P先于Q(这条规则要求volatile修饰的变量不回呗指令重排序优化,保证代码的执行顺序与程序的顺序相同)。

对于long和double型变量的特殊规则

Java内存模型要求lockunlockreadloadassignusestorewrite这八个操作都具有原子性,但是对于64位的数据类型(longdouble),在模型中特别定义了一条宽松的规定:允许虚拟机将没有被volatile修饰的64位数据的读写操作划分为两次32位的操作来进行,即允许虚拟机实现选择可以不保证64位数据类型的loadstorereadwrite这四个操作的原子性,这点就是所谓的long和double的非原子性协定。在编写代码时一般不需要将用到的long和double变量专门声明为volatile

原子性、可见性与有序性

Java内存模型时围绕着在并发过程中如何处理原子性、可见性和有序性这三个特征来建立的。点击这里有关于原子性、可见于与有序性的另一篇文章介绍

原子性

由Java内存模型来直接保证的原子性变量操作包括readloadassignusestorewrite这六个,大致可以认为基本数据类型的访问和读写时具备原子性的。

如果需要一个更大范围的原子性保证,Java内存模型提供了lockunlock操作来满足这种需求,尽管虚拟机未把lockunlock操作直接开放给用户使用,但是却提供了更高层次的字节码指令monitorentermonitorexit来隐式地使用这两个操作,这两个字节码反映到Java代码中就是痛不快——synchronized关键字,因此在synchronized块之间的操作也具备原子性。

可见性

可见性是指当一个线程修改了共享变量的值,其他线程能够立即得知这个修改。Java内存模型时通过在变量修改后将新值同步回主内存,在变量读取前从主内存刷新变量值这种依赖主内存作为传递媒介的方式来实现可见性的,无论是普通的变量还是volatile变量都是如此,普通变量与volatile变量的区别是volatile的特殊规则保证了新值能立即同步到主内存,以及每次使用前立即从主内存刷新。

除了volatile外,Java的synchronizedfinal关键字也能实现可见性。

有序性

如果在本线程内观察,所有的操作都是有序的;如果在一个线程中观察另一个线程,所有的操作都是无序的。前半句是指“线程内表现为串行的语义”,后半句是指“指令重排序现象”和“工作内存与主内存同步延迟”现象。

Java语言提供了volatilesynchronized两个关键字来保证线程之间的操作的有序性,volatile关键字本身就包含了禁止指令重排序的语义,而synchronized则是由“一个变量在同一个时刻只允许一条线程对其进行lock操作”这条规则获得的,这个规则决定了持有同一个锁的两个同步块只能串行地进入。

先行发生原则

先行发生时Java内存模型中定义的两项操作之间的偏序关系,如果说操作A先行发生与操作B,其实就是说在发生操作B之前,操作A产生的影响能呗操作B观察到,“影响”包括修改了内存中共享变量的值、发送了消息、调用了方法等。

Java内存模型下一些天然的先行发生关系:

  • 程序次序规则:在一个线程内,按照程序代码顺序,书写在前面的操作先行发生与书写在后面的操作。准确的说应该是控制流顺序而不是程序代码顺序,因为要考虑分支、循环等结构。
  • 管程锁规则:一个unlock操作先行发生于后面对同一个锁的lock操作。这里必须强调的是同一个锁,而后面是指时间上的先后顺序。
  • volatile变量规则:对一个volatile变量的写操作先行发生于后面对这个变量的毒操作,这里的后面同样是指时间上的先后顺序。
  • 线程启动规则:Thread对象的start()方法先行发生于此线程的每一个动作。
  • 线程终止规则:线程的所有操作都先行发生于此线程的终止检测。
  • 线程中断规则:对线程interrupt()方法的调用先行发生于被中断线程的代码检测到中断事件的发生。
  • 对象终结规则:一个对象的初始化完成先行发生于它的finalize()方法的开始。
  • 传递性:如果操作A先行发生于操作B,操作B先行发生于C,那就可以得出A操作先行发生于操作C的结论。

事件上先后顺序与先行发生原则之间基本没有太大的关系,所以我们衡量并发安全问题时不要收到事件顺序的干扰,一切必须以先行发生原则为准。

Java与线程

并发不一定要依赖多线程,但是在Java里面谈论并发,大多数都与线程脱不开关系。

线程的实现

主流的操作系统都提供了线程实现,Java语言则提供了在不同硬件和操作系统平台下对线程操作的统一处理,每个java.lang.Thread类的实例就代表了一个线程。不过Thread类与大部分的Java API有着显著的区别,它的所有关键方法都被声明为Native。在Java API中一个Native方法可能就以为着这个方法没有使用或无法使用平台无关的手段来实现。

实现线程主要有三种方式:使用内核实现,使用用户线程实现,使用用户线程加轻量级进程混合实现。

使用内核线程实现

直接由操作系统内核支持的线程,这种线程由内核线程来完成切换,内核通过操纵调度器对线程进行调度,并负责将线程的任务映射到各个处理器上。程序一般不会直接去使用内核线程,而是使用内核线程的一种高级接口——轻量级进程,轻量级进程就是我们通常意义上所将的线程,由于每个轻量级进程都由一个内核线程支持,因此只有先支持内核线程,才能有轻量级进程。

轻量级进程与内核线程之间1:1的关系
轻量级进程与内核线程之间1:1的关系

由于内核线程的支持,每个轻量级进程都成为一个独立的调度单元,即使有一个轻量级进程在系统调用中阻塞了,也不会影响整个进程继续工作,但是轻量级进程具有它的局限性:首先,由于是基于内核线程实现的,所以各种进程操作,如创建、析构及同步,都需要进行系统调用。而系统调用的代价相对较高,需要在用户态和内核态中来回切换。其次,每个轻量级进程都需要有一个内核线程的支持,因此轻量级进程要消耗一定的内核资源,因此一个系统支持轻量级进程的数量是有限的。

使用用户线程实现

广义上来讲,一个线程只要不是内核线程,那就可以认为是用户线程,因此从这个定义上来讲轻量级进程也属于用户线程,但轻量级进程的实现始终是建立在内核之上的,许多操作都要进行系统嗲用,因此效率会收到限制。

狭义上来讲,用户的线程指的是完全建立在用户空间的线程库上,系统内核不能感知到线程存在的实现。用户线程的建立、同步、销毁和调度完全在用户态中完成,不需要内核的帮助。如果程序实现得当,这种线程不需要切换到内核态,因此操作可以是非常快且低消耗的,也可以支持规模更大的线程数量,部分高性能数据库中的多线程就是由用户线程实现的。

进程与用户线程之间1:N的关系
进程与用户线程之间1:N的关系

使用用户线程的优势在于不需要系统内核支援,劣势在于没有系统内核的支援,所有的线程操作都需要用户程序自己处理。线程的创建、切换和调度都是需要考虑问题。

混合实现

线程除了依赖内核线程实现和完全由用户程序自己实现之外,还有一种将内核线程与用户线程一起使用的实现方式。在这种混合实现下,既有用户线程,也存在轻量级进程。用户县城还是完全建立在用户空间中,因此用户线程的创建、切换、析构等操作依然廉价,并且可以支持大规模的用户线程并发。而操作系统提供支持的轻量级进程则作为用户线程和内核线程之间的桥梁,这样可以使用内核提供的线程调度功能及处理器映射,并且用户线程的系统调用要通过轻量级线程来完成,大大降低了进程被阻塞的风险。

用户线程与轻量级进程之间M:N的关系
用户线程与轻量级进程之间M:N的关系

Java线程的实现

操作系统支持怎样的线程模型,在很大成都上就决定了Java虚拟机的线程是怎么样映射的,这点在不同的平台上没有办法达成一致,虚拟机规范中也并未限定Java线程需要使用哪种线程模型来实现。

Java线程调度

线程调度是指系统为线程分配处理器使用权的过程,主要调度方式有两种,分别是协同式线程调度和抢占式线程调度。

协同式调度

线程的执行时间由线程本身来控制,线程把自己的工作执行完了之后,要主动通知系统切换到另外一个线程上去。协同式多线程的最大好处是实现简单,而且由于线程要把自己的事情干完后才会进行线程切换,切换操作对线程自己是可知的,所以没有什么线程同步的问题。

抢占式调度

每个线程由系统来分配执行时间,线程的切换不由线程本身来决定。在这种实现线程调度的方式下,线程的执行时间是系统可控的,也不会有一个线程导致整个进程阻塞的问题,Java使用的线程调度方式就是抢占式调度。

状态转换

Java定义了5种进程状态,在任意一个时间点中,一个进程只能由且只有一种状态:

  • 新建:创建后尚未启动的线程处于这种状态
  • 运行:Runable包括了操作系统线程状态中的Running和Ready,也就是处于此状态的线程有可能正在执行,也有可能正在等待着CPU为它分配执行时间。
  • 无限期等待:处于这种状态的进程不会被分配CPU执行时间,它们要等待被其他线程显式地唤醒。以下方法会让线程陷入无限期等待状态:
    • 没有设置Timeout参数地Object.wait()方法。
    • 没有设置Timeout参数地Thread.join()方法。
    • LockSupport.park()方法。
  • 限期等待:处于这种状态的进程也不会分配CPU执行时间,不过无须等待被其他线程显式唤醒,在一定时间之后他们会由系统自动唤醒。以下方法会让线程进入限期等待状态:
    • Thread.sleep()方法。
    • 设置了Timeout参数的Object.wait()方法。
    • 设置了Timeout参数的Thread.join()方法。
    • LockSupport.parkNanos()方法。
    • LockSupport.parkUntil()方法。
  • 阻塞:进程被阻塞了,阻塞状态在等待着获取到一个排他锁,这个事件将在另外一个线程放弃这个锁的时候发生;等待状态则是在等待一段时间,或者唤醒动作的发生。在程序等待进入同步区域的时候, 线程将进入这种状态。
  • 结束:已终止线程的线程状态,线程已经结束执行。

线程状态转换关系:

线程状态转换关系
线程状态转换关系

小结

了解了虚拟机Java内存模型的结构及操作,讲解了原子性、可见性、有序性在Java内存模型中的体现,先行发生原则的规则及使用。还有线程在Java语言之中时如何实现的。

参考

  • 周志明,深入理解Java虚拟机:JVM高级特性与最佳实践,机械工业出版社
  • 图片来源