菜鸟笔记
提升您的技术认知

jmm概述-ag真人游戏

什么是jmm

内存模型可以理解为在特定的操作协议下,对特定的内存或者高速缓存进行读写访问的过程抽象描述,不同架构下的物理机拥有不一样的内存模型,java虚拟机是一个实现了跨平台的虚拟系统,因此它也有自己的内存模型,即java内存模型(java memory model, jmm)。

因此它不是对物理内存的规范,而是在虚拟机基础上进行的规范从而实现平台一致性,以达到java程序能够“一次编写,到处运行”。

究竟什么是内存模型?

内存模型描述了程序中各个变量(实例域、静态域和数组元素)之间的关系,以及在实际计算机系统中将变量存储到内存和从内存中取出变量这样的底层细节

java memory model(java内存模型), 围绕着在并发过程中如何处理可见性、原子性、有序性这三个特性而建立的模型。

jsr-133规范

即javatm内存模型与线程规范,由jsr-133专家组开发。本规范是jsr-176(定义了javatm平台 tiger(5.0)发布版的主要特性)的一部分。本规范的标准内容将合并到javatm语言规范、javatm虚拟机规范以及java.lang包的类说明中。
jsr-133中文版下载
  该规范在java语言规范里面指出了jmm是一个比较开拓性的尝试,这种尝试视图定义一个一致的、跨平台的内存模型,但是它有一些比较细微而且很重要的缺点。它提供大范围的流行硬件体系结构上的高性能jvm实现,现在的处理器在它们的内存模型上有着很大的不同,jmm应该能够适合于实际的尽可能多的体系结构而不以性能为代价,这也是java跨平台型设计的基础。

其实java语言里面比较容易混淆的关键字主要是synchronized和volatile,也因为这样在开发过程中往往开发者会忽略掉这些规则,这也使得编写同步代码比较困难。
  jsr133本身的目的是为了修复原本jmm的一些缺陷而提出的。

jmm结构规范

jmm规定了所有的变量都存储在主内存(main memory)中。每个线程还有自己的工作内存(working memory),线程的工作内存中保存了该线程使用到的变量的主内存的副本拷贝,线程对变量的所有操作(读取、赋值等)都必须在工作内存中进行,而不能直接读写主内存中的变量(volatile变量仍然有工作内存的拷贝,但是由于它特殊的操作顺序性规定,所以看起来如同直接在主内存中读写访问一般)。不同的线程之间也无法直接访问对方工作内存中的变量,线程之间值的传递都需要通过主内存来完成。

在java中,所有实例域、静态域和数组元素存储在堆内存中,堆内存在线程之间共享(本文使用“共享变量”这个术语代指实例域,静态域和数组元素)。局部变量(local variables),方法定义参数(java语言规范称之为formal method parameters)和异常处理器参数(exception handler parameters)不会在线程之间共享,它们不会有内存可见性问题,也不受内存模型的影响。

主内存和本地内存结构

从抽象的角度来看,jmm定义了线程和主内存之间的抽象关系:线程之间的共享变量存储在主内存(main memory)中,每个线程都有一个私有的本地内存(local memory),本地内存中存储了该线程以读/写共享变量的副本。本地内存是jmm的一个抽象概念,并不真实存在。本地内存它涵盖了缓存,写缓冲区,寄存器以及其他的硬件和编译器优化之后的一个数据存放位置

从上图来看,线程a与线程b之间如要通信的话,必须要经历下面2个步骤:

  1. 首先,线程a把本地内存a中更新过的共享变量刷新到主内存中去。
  2. 然后,线程b到主内存中去读取线程a之前已更新过的共享变量。

下面通过示意图来说明这两个步骤:


如上图所示,本地内存a和b有主内存中共享变量x的副本。假设初始时,这三个内存中的x值都为0。线程a在执行时,把更新后的x值(假设值为1)临时存放在自己的本地内存a中。当线程a和线程b需要通信时,线程a首先会把自己本地内存中修改后的x值刷新到主内存中,此时主内存中的x值变为了1。随后,线程b到主内存中去读取线程a更新后的x值,此时线程b的本地内存的x值也变为了1。

从整体来看,这两个步骤实质上是线程a在向线程b发送消息,而且这个通信过程必须要经过主内存。jmm通过控制主内存与每个线程的本地内存之间的交互,来为java程序员提供内存可见性保证。

jmm的三个特征

java内存模型是围绕着并发编程中原子性、可见性、有序性这三个特征来建立的,那我们依次看一下这三个特征:

原子性(atomicity)

一个操作不能被打断,要么全部执行完毕,要么不执行。在这点上有点类似于事务操作,要么全部执行成功,要么回退到执行该操作之前的状态。

基本类型数据的访问大都是原子操作,long 和double类型的变量是64位,但是在32位jvm中,32位的jvm会将64位数据的读写操作分为2次32位的读写操作来进行,这就导致了long、double类型的变量在32位虚拟机中是非原子操作,数据有可能会被破坏,也就意味着多个线程在并发访问的时候是线程非安全的。

下面我们来演示这个32位jvm下,对64位long类型的数据的访问的问题:

可见性:

一个线程对共享变量做了修改之后,其他的线程立即能够看到(感知到)该变量的这种修改(变化)。

java内存模型是通过将在工作内存中的变量修改后的值同步到主内存,在读取变量前从主内存刷新最新值到工作内存中,这种依赖主内存的方式来实现可见性的。

无论是普通变量还是volatile变量都是如此,区别在于:volatile的特殊规则保证了volatile变量值修改后的新值立刻同步到主内存,每次使用volatile变量前立即从主内存中刷新,因此volatile保证了多线程之间的操作变量的可见性,而普通变量则不能保证这一点。

除了volatile关键字能实现可见性之外,还有synchronized,lock,final也是可以的。

使用synchronized关键字,在同步方法/同步块开始时(monitor enter),使用共享变量时会从主内存中刷新变量值到工作内存中(即从主内存中读取最新值到线程私有的工作内存中),在同步方法/同步块结束时(monitor exit),会将工作内存中的变量值同步到主内存中去(即将线程私有的工作内存中的值写入到主内存进行同步)。

使用lock接口的最常用的实现reentrantlock(重入锁)来实现可见性:当我们在方法的开始位置执行lock.lock()方法,这和synchronized开始位置(monitor enter)有相同的语义,即使用共享变量时会从主内存中刷新变量值到工作内存中(即从主内存中读取最新值到线程私有的工作内存中),在方法的最后finally块里执行lock.unlock()方法,和synchronized结束位置(monitor exit)有相同的语义,即会将工作内存中的变量值同步到主内存中去(即将线程私有的工作内存中的值写入到主内存进行同步)。

final关键字的可见性是指:被final修饰的变量,在构造函数数一旦初始化完成,并且在构造函数中并没有把“this”的引用传递出去(“this”引用逃逸是很危险的,其他的线程很可能通过该引用访问到只“初始化一半”的对象),那么其他线程就可以看到final变量的值。

有序性:

对于一个线程的代码而言,我们总是以为代码的执行是从前往后的,依次执行的。这么说不能说完全不对,在单线程程序里,确实会这样执行;但是在多线程并发时,程序的执行就有可能出现乱序。用一句话可以总结为:在本线程内观察,操作都是有序的;如果在一个线程中观察另外一个线程,所有的操作都是无序的。前半句是指“线程内表现为串行语义(within thread as-if-serial semantics)”,后半句是指“指令重排”现象和“工作内存和主内存同步延迟”现象。

一个最经典的例子就是银行汇款问题,一个银行账户存款100,这时一个人从该账户取10元,同时另一个人向该账户汇10元,那么余额应该还是100。那么此时可能发生这种情况,a线程负责取款,b线程负责汇款,a从主内存读到100,b从主内存读到100,a执行减10操作,并将数据刷新到主内存,这时主内存数据100-10=90,而b内存执行加10操作,并将数据刷新到主内存,最后主内存数据100 10=110,显然这是一个严重的问题,我们要保证a线程和b线程有序执行,先取款后汇款或者先汇款后取款,此为有序性。

java提供了两个关键字volatile和synchronized来保证多线程之间操作的有序性,volatile关键字本身通过加入内存屏障来禁止指令的重排序,而synchronized关键字通过一个变量在同一时间只允许有一个线程对其进行加锁的规则来实现,

在单线程程序中,不会发生“指令重排”和“工作内存和主内存同步延迟”现象,只在多线程程序中出现。

关键词synchronized与volatile总结

synchronized的特点
一个线程执行互斥代码过程如下:

  1. 获得同步锁;
  2. 清空工作内存;
  3. 从主内存拷贝对象副本到工作内存;
  4. 执行代码(计算或者输出等);
  5. 刷新主内存数据;
  6. 释放同步锁。

所以,synchronized既保证了多线程的并发有序性,又保证了多线程的内存可见性

volatile是第二种java多线程同步的手段,根据jls的说法,一个变量可以被volatile修饰,在这种情况下内存模型确保所有线程可以看到一致的变量值

    class test {  
        static volatile int i = 0, j = 0;  
        static void one() {  
            i  ;  
            j  ;  
        }  
        static void two() {  
            system.out.println("i="   i   " j="   j);  
        }  
    }  

加上volatile可以将共享变量i和j的改变直接响应到主内存中,这样保证了i和j的值可以保持一致,然而我们不能保证执行two方法的线程是在i和j执行到什么程度获取到的,所以volatile可以保证内存可见性,不能保证并发有序性(不具有原子性)
如果没有volatile,则代码执行过程如下:

  1. 将变量i从主内存拷贝到工作内存;
  2. 刷新主内存数据;
  3. 改变i的值;
  4. 将变量j从主内存拷贝到工作内存;
  5. 刷新主内存数据;
  6. 改变j的值;

重排序

在执行程序时为了提高性能,编译器和处理器常常会对指令做重排序。重排序分三种类型:

  1. 编译器优化的重排序。编译器在不改变单线程程序语义的前提下,可以重新安排语句的执行顺序。
  2. 指令级并行的重排序。现代处理器采用了指令级并行技术(instruction-level parallelism, ilp)来将多条指令重叠执行。如果不存在数据依赖性,处理器可以改变语句对应机器指令的执行顺序。
  3. 内存系统的重排序。由于处理器使用缓存和读/写缓冲区,这使得加载和存储操作看上去可能是在乱序执行。

从java源代码到最终实际执行的指令序列,会分别经历下面三种重排序:
上述的1属于编译器重排序,2和3属于处理器重排序。这些重排序都可能会导致多线程程序出现内存可见性问题。对于编译器,jmm的编译器重排序规则会禁止特定类型的编译器重排序(不是所有的编译器重排序都要禁止)。对于处理器重排序,jmm的处理器重排序规则会要求java编译器在生成指令序列时,插入特定类型的内存屏障(memory barriers,intel称之为memory fence)指令,通过内存屏障指令来禁止特定类型的处理器重排序(不是所有的处理器重排序都要禁止)。

jmm属于语言级的内存模型,它确保在不同的编译器和不同的处理器平台之上,通过禁止特定类型的编译器重排序和处理器重排序,为程序员提供一致的内存可见性保证。

处理器重排序与内存屏障指令

现代的处理器(物理处理器即cpu)使用写缓冲区来临时保存向内存写入的数据。写缓冲区可以保证指令流水线持续运行,它可以避免由于处理器停顿下来等待向内存写入数据而产生的延迟。同时,通过以批处理的方式刷新写缓冲区,以及合并写缓冲区中对同一内存地址的多次写,可以减少对内存总线的占用。虽然写缓冲区有这么多好处,但每个处理器上的写缓冲区,仅仅对它所在的处理器可见。这个特性会对内存操作的执行顺序产生重要的影响:处理器排序后对内存的读/写操作的执行顺序,不一定与内存实际发生的读/写操作顺序一致!为了具体说明,请看下面示例:

processor a processor b
a = 1; //a1 b = 2; //b1
x = b; //a2 y = a; //b2
初始状态:a = b = 0//a3
处理器允许执行后得到结果:x = y = 0

假设处理器a和处理器b按程序的顺序并行执行内存访问,最终却可能得到x = y = 0的结果。具体的原因如下图所示:

a3->a2-b2->a1-a2;//指令并不会按照程序的顺序执行,这样的话,和你预想的结果天壤之别

这里的关键是,由于写缓冲区仅对自己的处理器可见,它会导致处理器执行内存操作的顺序可能会与内存实际的操作执行顺序不一致。由于现代的处理器都会使用写缓冲区,因此现代的处理器都会允许对写-读操做重排序。

下面是常见处理器允许的重排序类型的列表:

  load-load load-store store-store store-load 数据依赖
sparc-tso n n n y n
x86 n n n y n
ia64 y y y y n
powerpc y y y y n

上表单元格中的“n”表示处理器不允许两个操作重排序,“y”表示允许重排序。

从上表我们可以看出:

  • 常见的处理器都允许store-load重排序;
  • 常见的处理器都不允许对存在数据依赖的操作做重排序。sparc-tso和x86拥有相对较强的处理器内存模型,它们仅允许对写-读操作做重排序(因为它们都使用了写缓冲区)。

※注1:sparc-tso是指以tso(total store order)内存模型运行时,sparc处理器的特性。
※注2:上表中的x86包括x64及amd64。
※注3:由于arm处理器的内存模型与powerpc处理器的内存模型非常类似,本文将忽略它。
※注4:数据依赖性后文会专门说明。

为了保证内存可见性,java编译器在生成指令序列的适当位置会插入内存屏障指令来禁止特定类型的处理器重排序。jmm把内存屏障指令分为下列四类:

屏障类型 指令示例 说明
loadload barriers load1; loadload; load2 确保load1数据的装载,之前于load2及所有后续装载指令的装载。
storestore barriers store1; storestore; store2 确保store1数据对其他处理器可见(刷新到内存),之前于store2及所有后续存储指令的存储。
loadstore barriers load1; loadstore; store2 确保load1数据装载,之前于store2及所有后续的存储指令刷新到内存。
storeload barriers store1; storeload; load2 确保store1数据对其他处理器变得可见(指刷新到内存),之前于load2及所有后续装载指令的装载。storeload barriers会使该屏障之前的所有内存访问指令(存储和装载指令)完成之后,才执行该屏障之后的内存访问指令。

storeload barriers是一个“全能型”的屏障,它同时具有其他三个屏障的效果。现代的多处理器大都支持该屏障(其他类型的屏障不一定被所有处理器支持)。执行该屏障开销会很昂贵,因为当前处理器通常要把写缓冲区中的数据全部刷新到内存中(buffer fully flush)。

数据依赖性

如果两个操作访问同一个变量,且这两个操作中有一个为写操作,此时这两个操作之间就存在数据依赖性。数据依赖分下列三种类型:

名称 代码示例 说明
写后读 a = 1; b = a; 写一个变量之后,再读这个位置。
写后写 a = 1;a = 2; 写一个变量之后,再写这个变量。
读后写 a = b;b = 1; 读一个变量之后,再写这个变量。

上面三种情况,只要重排序两个操作的执行顺序,程序的执行结果将会被改变。

前面提到过,编译器和处理器可能会对操作做重排序。编译器和处理器在重排序时,会遵守数据依赖性,编译器和处理器不会改变存在数据依赖关系的两个操作的执行顺序。
注意,这里所说的数据依赖性仅针对单个处理器中执行的指令序列和单个线程中执行的操作,不同处理器之间和不同线程之间的数据依赖性不被编译器和处理器考虑。

as-if-serial语义

as-if-serial语义的意思指:不管怎么重排序(编译器和处理器为了提高并行度),(单线程)程序的执行结果不能被改变。编译器,runtime 和处理器都必须遵守as-if-serial语义。
【例】

double pi  = 3.14;    //a  
double r   = 1.0;     //b  
double area = pi * r * r; //c  

如上图所示,a和c之间存在数据依赖关系,同时b和c之间也存在数据依赖关系。因此在最终执行的指令序列中,c不能被重排序到a和b的前面(c排到a和b的前面,程序的结果将会被改变)。但a和b之间没有数据依赖关系,编译器和处理器可以重排序a和b之间的执行顺序。下图是该程序的两种执行顺序:

as-if-serial语义把单线程程序保护了起来,遵守as-if-serial语义的编译器,runtime 和处理器共同为编写单线程程序的程序员创建了一个幻觉:单线程程序是按程序的顺序来执行的。as-if-serial语义使单线程程序员无需担心重排序会干扰他们,也无需担心内存可见性问题。

先行发生(happens-before)原则:

前面所述的内存交互操作必须要满足一定的规则,而happens-before就是定义这些规则的一个等效判断原则。happens-before是jmm定义的2个操作之间的偏序关系:如果操作a线性发生于操作b,则a产生的影响能被操作b观察到,“影响”包括修改了内存中共享变量的值、发送了消息、调用了方法等。如果两个操作满足happens-before原则,那么不需要进行同步操作,jvm能够保证操作具有顺序性,此时不能够随意的重排序。否则,无法保证顺序性,就能进行指令的重排序。

java内存模型中定义的两项操作之间的次序关系,如果说操作a先行发生于操作b,操作a产生的影响能被操作b观察到,“影响”包含了修改了内存中共享变量的值、发送了消息、调用了方法等。

下面是java内存模型下一些”天然的“happens-before关系,这些happens-before关系无须任何同步器协助就已经存在,可以在编码中直接使用。如果两个操作之间的关系不在此列,并且无法从下列规则推导出来的话,它们就没有顺序性保障,虚拟机可以对它们进行随意地重排序。

a.程序次序规则(pragram order rule):在一个线程内,按照程序代码顺序,书写在前面的操作先行发生于书写在后面的操作。准确地说应该是控制流顺序而不是程序代码顺序,因为要考虑分支、循环结构。

b.管程锁定规则(monitor lock rule):一个unlock操作先行发生于后面对同一个锁的lock操作。这里必须强调的是同一个锁,而”后面“是指时间上的先后顺序。

c.volatile变量规则(volatile variable rule):对一个volatile变量的写操作先行发生于后面对这个变量的读取操作,这里的”后面“同样指时间上的先后顺序。

d.线程启动规则(thread start rule):thread对象的start()方法先行发生于此线程的每一个动作。

e.线程终于规则(thread termination rule):线程中的所有操作都先行发生于对此线程的终止检测,我们可以通过thread.join()方法结束,thread.isalive()的返回值等作段检测到线程已经终止执行。

f.线程中断规则(thread interruption rule):对线程interrupt()方法的调用先行发生于被中断线程的代码检测到中断事件的发生,可以通过thread.interrupted()方法检测是否有中断发生。

g.对象终结规则(finalizer rule):一个对象初始化完成(构造方法执行完成)先行发生于它的finalize()方法的开始。

g.传递性(transitivity):如果操作a先行发生于操作b,操作b先行发生于操作c,那就可以得出操作a先行发生于操作c的结论。

一个操作”时间上的先发生“不代表这个操作会是”先行发生“,那如果一个操作”先行发生“是否就能推导出这个操作必定是”时间上的先发生 “呢?也是不成立的,一个典型的例子就是指令重排序。所以时间上的先后顺序与happens-before原则之间基本没有什么关系,所以衡量并发安全问题一切必须以happens-before 原则为准。

注意:不同操作时间先后顺序与先行发生原则之间没有关系,二者不能相互推断,衡量并发安全问题不能受到时间顺序的干扰,一切都要以happens-before原则为准

示例

private int value = 0;
public void setvalue(int value) {
    this.value = value;
}
public int getvalue() {
    return this.value;
}

对于上面的代码,假设线程a在时间上先调用setvalue(1),然后线程b调用getvalue()方法,那么线程b收到的返回值一定是1吗?

按照happens-before原则,两个操作不在同一个线程、没有通道锁同步、线程的相关启动、终止和中断以及对象终结和传递性等规则都与此处没有关系,因此这两个操作是不符合happens-before原则的,这里的并发操作是不安全的,返回值并不一定是1。

对于该问题的修复,可以使用lock或者synchronized套用“管程锁定规则”实现先行发生关系;或者将value定义为volatile变量(两个方法的调用都不存在数据依赖性),套用“volatile变量规则”实现先行发生关系。如此一来,就能保证并发安全性。

volatile的原理和实现机制

前面讲述了源于volatile关键字的一些使用,下面我们来探讨一下volatile到底如何保证可见性和禁止指令重排序的。

下面这段话摘自《深入理解java虚拟机》:

“观察加入volatile关键字和没有加入volatile关键字时所生成的汇编代码发现,加入volatile关键字时,会多出一个lock前缀指令”

lock前缀指令实际上相当于一个内存屏障(也成内存栅栏),内存屏障会提供3个功能:

1)它确保指令重排序时不会把其后面的指令排到内存屏障之前的位置,也不会把前面的指令排到内存屏障的后面;即在执行到内存屏障这句指令时,在它前面的操作已经全部完成;

2)它会强制将对缓存的修改操作立即写入主存;

3)如果是写操作,它会导致其他cpu中对应的缓存行无效。

使用volatile关键字的场景

synchronized关键字是防止多个线程同时执行一段代码,那么就会很影响程序执行效率,而volatile关键字在某些情况下性能要优于synchronized,但是要注意volatile关键字是无法替代synchronized关键字的,因为volatile关键字无法保证操作的原子性。通常来说,使用volatile必须具备以下2个条件:
  1)对变量的写操作不依赖于当前值
  2)该变量没有包含在具有其他变量的不变式中

实际上,这些条件表明,可以被写入 volatile 变量的这些有效值独立于任何程序的状态,包括变量的当前状态。

事实上,我的理解就是上面的2个条件需要保证操作是原子性操作,才能保证使用volatile关键字的程序在并发时能够正确执行。

网站地图