JVM（三）：内存模型JMM

JMM是一种规范，目的是解决由于多线程通过共享内存进行通信时，存在的本地内存数据不一致、编译器会对代码指令重排序、处理器会对代码乱序执行等带来的问题。

主内存与工作内存

主内存：所有的实例字段、静态字段和构成数组对象的元素都存储在主内存，但不包括局部变量与方法参数。

工作内存：每个线程都有自己的工作内存，工作线程中保存了该线程用到的变量的主内存副本拷贝，线程对变量的所有操作都必须在工作内存中进行，而不能直接读写主内存的变量，不同线程之间也无法直接访问对方工作内存中的变量，线程间变量值的传递均需要通过主内存来完成，线程、主内存、工作内存之间的交互关系图如下：

注意：这里的主内存、工作内存与Java内存区域的Java堆、栈、方法区不是同一层次内存划分，这两者基本上没有关系。

内存间交互操作

主内存与工作内存之间具体的交互协议，被定义了以下8种操作来完成，虚拟机实现时必须保证每一种操作都是原子的、不可再分的。

1. lock，锁定，所用于主内存变量，它把一个变量标识为一条线程独占的状态。
2. unlock，解锁，解锁后的变量才能被其他线程锁定。
3. read，读取，所用于主内存变量，它把一个主内存变量的值，读取到工作内存中。
4. load，载入，所用于工作内存变量，它把read读取的值，放到工作内存的变量副本中。
5. use，使用，作用于工作内存变量，它把工作内存变量的值传递给执行引擎，当JVM遇到一个变量读取指令就会执行这个操作。
6. assign，赋值，作用于工作内存变量，它把一个从执行引擎接收到的值赋值给工作内存变量。
7. store，存储，作用域工作内存变量，它把工作内存变量值传送到主内存中。
8. write，写入，作用于主内存变量，它把store从工作内存中得到的变量值写入到主内存变量中。

8种操作的实现规则：

1. 不允许read和load、store和write操作之一单独出现，即不允许加载或同步工作到一半。
2. 不允许一个线程丢弃它最近的assign操作，即变量在工作内存中改变了之后，必须吧改变化同步回主内存。
3. 不允许一个线程无原因地（无assign操作）把数据从工作内存同步到主内存中。
4. 一个新的变量只能在主内存中诞生。
5. 一个变量在同一时刻只允许一条线程对其进行lock操作，但lock操作可以被同一条线程重复执行多次，，多次lock之后必须要执行相同次数的unlock操作，变量才会解锁。
6. 如果对一个对象进行lock操作，那会清空工作内存变量中的值，在执行引擎使用这个变量前，需要重新执行load或assign操作初始化变量的值。
7. 如果一个变量事先没有被lock，就不允许对它进行unlock操作，也不允许去unlock一个被其他线程锁住的变量。
8. 对一个变量执行unlock操作之前，必须将此变量同步回主内存中（执行store、write）。

对于volatile型变量的特殊规则

volatile变量具有两种特征：1. 是保证此变量对所有线程的可见性；2. 禁止指令重排优化

对于volatile的可见性，在不符合以下两条规则的运算场景中，仍要枷锁来保证原子性：

1. 运算结果并不依赖变量的当前值，或者能够确保只有单一的线程修改变量的值。
2. 变量不需要与其他的状态变量共同参与不变约束。

volatile的实现原理

经过volatile修饰的变量，通过查看JIT编译后的汇编代码

可以发现，关键在于被volatile修饰的变量，复制后，多执行了一个lock指令，这个操作相当于一个内存屏障，指令重排序时不能把后面的指令重排序到内存屏障之前的位置，add1 0，exp是一个空指令，重点在于lock前缀，它的作用是使得本CPU的Cache写入了内存，同时其他CPU的Cache失效，这种操作相当于对工作内存变量做了一次store和write，通过这个操作，可以让volatile修饰的变量对其他CPU可见。

那么它又是如何禁止指令重排的呢？

从硬件架构上讲，指令重排序是指CPU采用了允许将多条指令不按程序规定的顺序分开发送给各相应电路单页处理，但并不是说指令任意重排，CPU需要能正确处理指令依赖情况以保证程序能够得出正确的执行结果，lock指令把修改同步到内存时，意味着所有之前的操作都已经执行完成，这样便形成了”指令重排无法越过内存屏障“的效果。

java内存模型中对volatile变量定义的特殊规则：

1. read、load、use 必须一起出现，保证每次使用工作内存中的变量时，都必须从主内存刷新最新的值，以便能看见其他线程对变量所做的修改。
2. assign、store、write 必须一起出现，保证每次修改都立刻同步到主内存中。
3. 对两个不同变量的use或assign操作顺序，要和对这两个变量的read或write操作顺序相同（禁止指令重排序）。

对于Long和Double型变量的特殊规则：

对于64位数据类型，虚拟机规范允许将64位数据的读写操作划分为两次32位的操作来进行，即虚拟机可以选择不保证64位数据类型的load、store、read、write这4个操作的原子性。

原子性、可见性、有序性

原子性

由Java内存模型提供的8个原子性操作所支持，Long和Double的读写大部分商业虚拟机上已实现为原子性操作，更大范围的原子性操作，Java内存模型还提供了lock和unlock操作来支持，在字节码层次提供了monitorenter和monitorexit来隐式的使用这两个操作，反映到java代码中就是同步代码块了 synchronize。

可见性

可见性是指当一个线程修改了共享变量的值，其他线程能够立即得知这个修改，可见性由volatile支持，除了volatile以外，synchronize和final关键字，synchronize的可见性是由”对一个变量执行unlock操作之前，必须先把此变量同步回主内存中“这条规则保证的，而final关键字是指当final修饰的字段在构造函数中一旦初始化完成，并且构造器没有把this的引用传递出去，那在其他线程中就能看见final字段的值，无须同步就能被其他线程正确访问。

有序性

java提供了volatile和synchronize两个关键字来保证线程之间操作的有序性，synchronize是由“一个变量在同一时刻只允许一条线程对其进行lock操作”。

重排序

在执行程序时为了提高性能，编译器和处理器经常会对指令进行重排序。从硬件架构上来说，指令重排序是指CPU采用了允许将多条指令不按照程序规定的顺序，分开发送给各个相应电路单元处理，而不是指令任意重排。重排序分成三种类型：

• 编译器优化的重排序。编译器在不改变单线程程序语义放入前提下，可以重新安排语句的执行顺序。
• 指令级并行的重排序。现代处理器采用了指令级并行技术来将多条指令重叠执行。如果不存在数据依赖性，处理器可以改变语句对应机器指令的执行顺序。
• 内存系统的重排序。由于处理器使用缓存和读写缓冲区，这使得加载和存储操作看上去可能是在乱序执行。

JMM的重排序屏障

从Java源代码到最终实际执行的指令序列，会经过三种重排序。但是，为了保证内存的可见性，Java编译器在生成指令序列的适当位置会插入内存屏障指令来禁止特定类型的处理器重排序。对于编译器的重排序，JMM会根据重排序规则禁止特定类型的编译器重排序；对于处理器重排序，JMM会插入特定类型的内存屏障，通过内存的屏障指令禁止特定类型的处理器重排序。这里讨论JMM对处理器的重排序，为了更深理解JMM对处理器重排序的处理，先来认识一下常见处理器的重排序规则：

其中的N标识处理器不允许两个操作进行重排序，Y表示允许。其中Load-Load表示读-读操作、Load-Store表示读-写操作、Store-Store表示写-写操作、Store-Load表示写-读操作。可以看出：常见处理器对写-读操作都是允许重排序的，并且常见的处理器都不允许对存在数据依赖的操作进行重排序（对应上面数据转换那一列，都是N，所以处理器不允许这种重排序）。

那么这个结论对我们有什么作用呢？比如第一点：处理器允许写-读操作两者之间的重排序，那么在并发编程中读线程读到可能是一个未被初始化或者是一个NULL等，出现不可预知的错误，基于这点，JMM会在适当的位置插入内存屏障指令来禁止特定类型的处理器的重排序。内存屏障指令一共有4类：

• LoadLoad Barriers：确保Load1数据的装载先于Load2以及所有后续装载指令
• StoreStore Barriers：确保Store1的数据对其他处理器可见（会使缓存行无效，并刷新到内存中）先于Store2及所有后续存储指令的装载
• LoadStore Barriers：确保Load1数据装载先于Store2及所有后续存储指令刷新到内存
• StoreLoad Barriers：确保Store1数据对其他处理器可见（刷新到内存，并且其他处理器的缓存行无效）先于Load2及所有后续装载指令的装载。该指令会使得该屏障之前的所有内存访问指令完成之后，才能执行该屏障之后的内存访问指令。

数据依赖性

根据上面的表格，处理器不会对存在数据依赖的操作进行重排序。这里数据依赖的准确定义是：如果两个操作同时访问一个变量，其中一个操作是写操作，此时这两个操作就构成了数据依赖。常见的具有这个特性的如i++、i—。如果改变了具有数据依赖的两个操作的执行顺序，那么最后的执行结果就会被改变。这也是不能进行重排序的原因。例如：

• 写后读：a = 1; b = a;
• 写后写：a = 1; a = 2;
• 读后写：a = b; b = 1;

重排序遵守数据依赖性，编译器和处理器不会改变存在数据依赖关系的两个操作的执行顺序。但是这里所说的数据依赖性仅针对单个处理器中执行的指令序列和单个线程中执行的操作，不同处理器之间和不同线程之间的数据依赖性不被编译器和处理器考虑。

as-if-serial语义

as-if-serial语义的意思指：管怎么重排序（编译器和处理器为了提高并行度），（单线程）程序的执行结果不能被改变。编译器，runtime 和处理器都必须遵守as-if-serial语义。

as-if-serial语义把单线程程序保护了起来，遵守as-if-serial语义的编译器，runtime 和处理器共同为编写单线程程序的程序员创建了一个幻觉：单线程程序是按程序的顺序来执行的。as-if-serial语义使单线程程序员无需担心重排序会干扰他们，也无需担心内存可见性问题。

重排序对多线程的影响

如果代码中存在控制依赖的时候，会影响指令序列执行的并行度（因为高效）。也是为此，编译器和处理器会采用猜测（Speculation）执行来克服控制的相关性。所以重排序破坏了程序顺序规则（该规则是说指令执行顺序与实际代码的执行顺序是一致的，但是处理器和编译器会进行重排序，只要最后的结果不会改变，该重排序就是合理的）。

在单线程程序中，由于as-ifserial语义的存在，对存在控制依赖的操作重排序，不会改变执行结果；但在多线程程序中，对存在控制依赖的操作重排序，可能会改变程序的执行结果。

先行发生原则（happens-before）

前面所述的内存交互操作必须要满足一定的规则，而happens-before就是定义这些规则的一个等效判断原则。happens-before是JMM定义的2个操作之间的偏序关系：如果操作A线性发生于操作B前，则A产生的影响能被操作B观察到，“影响”包括修改了内存中共享变量的值、发送了消息、调用了方法等。如果两个操作满足happens-before原则，那么不需要进行同步操作，JVM能够保证操作具有顺序性，此时不能够随意的重排序。否则，无法保证顺序性，就能进行指令的重排序。

happens-before原则主要包括：

• 程序次序规则(Program Order Rule)：在同一个线程中，按照程序代码顺序，书写在前面的操作先行发生于书写在后面的操纵。准确的说是程序的控制流顺序，考虑分支和循环等。

• 管理锁定规则(Monitor Lock Rule)：一个unlock操作先行发生于后面（时间上的顺序）对同一个锁的lock操作。

• volatile变量规则(Volatile Variable Rule)：对一个volatile变量的写操作先行发生于后面（时间上的顺序）对该变量的读操作。

• 线程启动规则(Thread Start Rule)：Thread对象的start()方法先行发生于此线程的每一个动作。

• 线程终止规则(Thread Termination Rule)：线程的所有操作都先行发生于对此线程的终止检测，可以通过Thread.join()方法结束、Thread.isAlive()的返回值等手段检测到线程已经终止执行。

• 线程中断规则(Thread Interruption Rule)：对线程interrupt()方法的调用先行发生于被中断线程的代码检测到中断时事件的发生。Thread.interrupted()可以检测是否有中断发生。

• 对象终结规则(Finilizer Rule)：一个对象的初始化完成（构造函数执行结束）先行发生于它的finalize()的开始。

• 传递性(Transitivity)：如果操作A 先行发生于操作B，操作B 先行发生于操作C，那么可以得出A 先行发生于操作C。

注意：不同操作时间先后顺序与先行发生原则之间没有关系，二者不能相互推断，衡量并发安全问题不能受到时间顺序的干扰，一切都要以happens-before原则为准

示例代码1:

private int value = 0;
​
public void setValue(int value) {
    this.value = value;
}
​
public int getValue() {
    return this.value;
}

对于上面的代码，假设线程A在时间上先调用setValue(1)，然后线程B调用getValue()方法，那么线程B收到的返回值一定是1吗？

按照happens-before原则，两个操作不在同一个线程、没有通道锁同步、线程的相关启动、终止和中断以及对象终结和传递性等规则都与此处没有关系，因此这两个操作是不符合happens-before原则的，这里的并发操作是不安全的，返回值并不一定是1。

对于该问题的修复，可以使用lock或者synchronized套用“管程锁定规则”实现先行发生关系；或者将value定义为volatile变量（两个方法的调用都不存在数据依赖性），套用“volatile变量规则”实现先行发生关系。如此一来，就能保证并发安全性。

示例代码2

// 以下操作在同一个线程中
int i = 1;
int j = 2;

上面的代码符合“程序次序规则”，满足先行发生关系，但是第2条语句完全可能由于重排序而被处理器先执行，时间上先于第1条语句。