【转】线程安全性原理分析---Volatile(硬件层面)

210 阅读12分钟

1.Volatile 一段代码引发起我们的思考,下面这段代码 使用volatile 跟去掉有什么区别?

public class App {
    public volatile static boolean stop = false;  //加上volatile 程序运行完后,立马结束。
    public static void main(String[] args) throws InterruptedException {
        Thread thread = new Thread(() -> {
            int i = 0;
            while (!stop) { //不满足
                i++;
            }
        });
        thread.start();
        Thread.sleep(1000);
        stop = true; //true
    }
}

2.加Volatile 的作用是什么?

volatile 可以使得在多线程的环境下保证了共享变量的可见性,那么问题又来了,什么是可见性呢?
在单线程的环境下,如果让A线程去改变量的一个值,之后在没有任何干涉的情况下,
A线程再次读取此值,读取的值是它之前改变后的值。但是在多线程环境下,
读和写发生在不同的线程中的时候,可能会出现:读线程不能及时的读取到其他线程写入的最新的值,
这就是所谓的可见性。

java 种是如何实现可见性的?

为了实现跨线程写入的内存可见性,需使用到一些机制来实现。而 volatile 正是这样一种机制。

3. volatile 如可保证可见性?

我们可以使用【hsdis】这个工具,来查看前面演示的这段代码的汇编指令,具体的使用请查看使用说明文档在运行的代码中,设置 jvm 参数如下
【-server -Xcomp -XX:+UnlockDiagnosticVMOptions -XX:+PrintAssembly -XX:CompileCommand=compileonly,Thread.java】
然后在输出的结果中,查找下 lock 指令,会发现带有 volatile 修饰的成员变量时,会多一个 lock 指令。lock
是一种控制指令,在多处理器环境下,lock 汇编指令可以基于总线锁或者缓存锁的机制来达到可见性的一个效果。

3.可见性到底是什么?

为了让大家更好的理解可见性的本质,我们需要从硬件层进行梳理硬件层面

计算机核心组件:CPU、 内存、I/O设备,这三者在处理速度的差异。CPU 的计算速度是非常快的,内存次之、最后是 IO 设备比如磁盘、SSD。而在绝大部分的程序中,一定会存在内存访问,有些可能还会存在 I/O 设备的访问。为了提升计算性能,CPU 从单核升级到了多核,甚至用到了超线程技术最大化提高 CPU 的处理性能,但是仅仅提升CPU 性能还不够,如果后面两者的处理性能没有跟上,意味着整体的计算效率取决于最慢的设备。

为了平衡三者的速度差异,最大化的利用 CPU 提升性能,从硬件、操作系统、编译器等方面都做出了很多的优化,那么具体做了那些优化呢?

  1. CPU 增加了高速缓存
  2. 操作系统增加了进程、线程。通过 CPU 的时间片切换最大化的提升 CPU 的使用率
  3. 编译器的指令优化,更合理的去利用好 CPU 的高速缓存。

然而每一种优化,都会带来相应的问题,而这些问题也是导致线程安全性问题的根源。为了了解前面提到的可见性问题的本质,我们有必要去了解这些优化的过程。

CPU 高速缓存 线程是 CPU 调度的最小单元,线程设计的目的最终是为了更充分的利用计算机处理的效能,但是绝大部分的运算任务不能只依靠处理器“计算”就能完成,处理器还需要与内存交互,比如读取运算数据、存储运算结果,I/O 操作是很难避免的,而由于计算机的存储设备与处理器的运算速度差距非常大,所以现代计算机系统都会增加一层读写速度尽可能接近处理器运算速度的高速缓存来作为内存和处理器之间的缓冲:将运算需要使用的数据复制到缓存中,让运算能快速进行,当运算结束后再从缓存同步到内存之中。

原理图如下:

通过高速缓存的存储交互很好的解决了处理器与内存的速度问题,但是也为计算机系统带来了更高的复杂度,因为它引入了一个新的问题,缓存一致性。

什么叫缓存一致性呢?

首先有了高速缓存存在以后,每个CPU的处理过程是:先将计算需要用到的数据缓存在CPU高速缓存中,在CPU进行激素那时,直接从高速缓存中读取数据比能去在计算完成后写入缓存中,在整个运算过程完成后,再把缓存中的数据同步到主内存。

由于在多核CPU中。每个线程可能会运行在不同的CPU 内,并且每个线程拥有自己的高速缓存。同一份数据可能会被缓存到多个CPU 中,如果在不同CPU中运行这不同线程看到同一份内存的缓存值存在不一致的问题,为了解决缓存不一致的问题,在CPU 层面做了很多事情,主要提供了两种方法:

  1. 总线锁
  2. 缓存锁

总线锁和缓存锁

总线锁,简单来说就是,在多 cpu 下,当其中一个处理器要对共享内存进行操作的时候,在总线上发出一个 LOCK#信号,这个信号使得其他处理器无法通过总线来访问到共享内存中的数据,总线锁定把 CPU 和内存之间的通信锁住了,这使得锁定期间,其他处理器不能操作其他内存地址的数据,所以总线锁定的开销比较大,这种机制显然是不合适的。

如何优化呢?

最好的方法就是控制锁的保护粒度,我们只需要保证对于被多个 CPU 缓存的同一份数据是一致的就行。所以引入了缓存锁,它核心机制是基于缓存一致性协议来实现的。缓存一致性协议为了达到数据访问的一致,需要各个处理器在访问缓存时遵循一些协议,在读写时据协议来操作。常见的协议有MSI,MESI,MOSI 等。最常见的就是 MESI协议。接下来给大家简单介绍一下 MESI

MESI 表示缓存行的四种状态,分别是:

  • M(Modify) 表示共享数据只缓存在当前 CPU 缓存中,并且是被修改状态,也就是缓存的数据和主内存中的数据不一致。
  • E(Exclusive) 表示缓存的独占状态,数据只缓存在当前CPU 缓存中,并且没有被修改。
  • S(Shared) 表示数据可能被多个 CPU 缓存,并且各个缓存中的数据和主内存数据一致
  • I(Invalid) 表示缓存已经失效

在 MESI 协议中,每个缓存的缓存控制器不仅知道自己的读写操作,而且也监听(snoop)其它 Cache 的读写操作。

  • S状态:
  • M 状态:
  • E 状态:

对于 MESI 协议,从 CPU 读写角度来说会遵循以下原则:CPU 读请求:缓存处于 M、E、S 状态都可以被读取,I 状态 CPU 只能从主存中读取数据CPU 写请求:缓存处于 M、E 状态才可以被写。对于 S 状态的写,需要将其他 CPU 中缓存行置为无效才可写使用总线锁和缓存锁机制之后,CPU 对于内存的操作大概可以抽象成下面这样的结构,从而达到缓存一致性效果。

可见性的本质 由于 CPU 高速缓存的出现使得如果多个 cpu 同时缓存了相同的共享数据时,可能存在可见性问题。也就是 CPU(A )修改了自己本地缓存的值对于 CPU(B) 不可见。不可见导致的后果是 CPU1 后续在对该数据进行写入操作时,是使用的脏数据。使得数据最终的结果不可预测。

这种情况很难模拟。因为我们无法让某个线程指定某个特定 CPU,这是系统底层的算法, JVM 应该也是没法控制的。还有最重要的一点,就是你无法预测 CPU 缓存什么时候会把值传给主存,可能这个时间间隔非常短,短到你无法观察到。

最后就是线程的执行的顺序问题,因为多线程你无法控制哪个线程的某句代码会在另一个线程的某句代码后面马上执行。所以我们只能基于它的原理去了解这样一个存在的客观事实了解到这里,大家应该会有一个疑问,刚刚不是说基于缓存一致性协议或者总线锁能够达到缓存一致性的要求吗?

为什么还需要加 volatile 关键字?或者说为什么还会存在可见性问题呢?

MESI 优化带来的可见性问题,MESI 协议虽然可以实现缓存的一致性,但是也会存在一些问题。就是各个 CPU 缓存行的状态是通过消息传递来进行的。如果 CPU0 要对一个在缓存中共享的变量进行写入,首先需要发送一个失效的消息给到其他缓存了该数据的 CPU。

并且要等到他们的确认回执。CPU0 在这段时间内都会处于阻塞状态。为了避免阻塞带来的资源浪费。在 cpu 中引入了 Store Bufferes。

storebufferes 的作用? CPU0 只需要在写入共享数据时,直接把数据写入到 storebufferes 中,同时发送 invalidate 消息,然后继续去处理其他指令。当收到其他所有CPU发送了invalidate acknowledge消息时,再将 store bufferes 中的数据数据存储至 cache line中。最后再从缓存行同步到主内存。

但是这种优化存在两个问题

数据什么时候提交是不确定的,因为需要等待其他 cpu给回复才会进行数据同步,这里其实是一个异步操作。 引入了 storebufferes 后,处理器会先尝试从 storebuffer中读取值,如果 storebuffer 中有数据,则直接从storebuffer 中读取,否则就再从缓存行中读取。 我们来看一个例子

  int   value=3;
  void  exeToCPU0(){
        value =10;  //(S->M)->写入storebuffer 通知其他CPU 并且等待其他CPU ask
        isFinish =true;//(E) 下面这段代码仍然执行,并且是独占状态,不需要进行 cpu 之间的通讯,那么cpu1 会立得到isFinish 为true;
  }
void exeToCPU1(){
   if(isFinish){ //条件成立
     assert value==10; // 结果不为10;
   }
}

代码解释说明: exeToCPU0()和exeToCPU1()分别在两个独立的CPU上执行。 假如 CPU0 的缓存行中缓存了 isFinish 这个共享变量,并且状态为(E)、而 Value 可能是(S)状态。 那么这个时候,CPU0 在执行的时候,会先把 value=10 的指令写入到storebuffer中。 并且通知给其他缓存了该value变量的 CPU。 在等待其他 CPU 通知结果的时候,CPU0 会继续执行 isFinish=true 这个指令。 而因为当前 CPU0 缓存了 isFinish 并且是 Exclusive 状态,所以可以直接修改 isFinish=true。 这个时候 CPU1 发起 read操作去读取 isFinish 的值可能为 true,但是 value 的值不等于 10。 这种情况我们可以认为是 CPU 的乱序执行,也可以认为是一种重排序,而这种重排序会带来可见性的问题。

硬件层面提供的解决策略—内存屏障 因此,从硬件层面很难去知道软件层面上的这种前后依赖关系,所以在 CPU 层面提供了 memory barrier(内存屏障)的指令,从硬件层面来看这个 memroy barrier 就是 CPU flushstore bufferes 中的指令。 软件层面可以决定在适当的地方来插入内存屏障。 CPU 层面的内存屏障

什么是内存屏障? 从前面的内容基本能有一个初步的猜想,内存屏障就是将 store bufferes 中的指令写入到内存,从而使得其他访问同一共享内存的线程的可见性。X86的memory barrier指令包括lfence(读屏障) sfence(写屏障) mfence(全屏障)。

Store Memory Barrier(写屏障) 告诉处理器在写屏障之前的所有已经存储在存储缓存(store bufferes)中的数据同步到主内存,简单来说就是使得写屏障之前的指令的结果对屏障之后的读或者写是可见的。 Load Memory Barrier(读屏障) 处理器在读屏障之后的读操作,都在读屏障之后执行。配合写屏障,使得写屏障之前的内存更新对于读屏障之后的读操作是可见的。

Full Memory Barrier(全屏障) 确保屏障前的内存读写操作的结果提交到内存之后,再执行屏障后的读写操作有了内存屏障以后,对于上面这个例子,我们可以这么来改,从而避免出现可见性问题。

总的来说,内存屏障的作用可以通过防止 CPU 对内存的乱序访问来保证共享数据在多线程并行执行下的可见性但是这个屏障怎么来加呢?回到最开始我们讲 volatile 关键字的代码,这个关键字会生成一个 Lock 的汇编指令,这个指令其实就相当于实现了一种内存屏障这个时候问题又来了,内存屏障、重排序这些东西好像是和平台以及硬件架构有关系的。作为 Java 语言的特性,一次编写多处运行。我们不应该考虑平台相关的问题,并且这些所谓的内存屏障也不应该让程序员来关心,那么我们从JMM 层面看看是如何保证可见性的《线程安全性原理分析—JMM层面》?

————————————————

版权声明:本文为CSDN博主「17610229712」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。 原文链接:blog.csdn.net/weixin_3950…