java并发中原子操作的实现原理

177 阅读5分钟

原子(atomic)本意是“不能被进一步分割的最小粒子”,而原子操作(atomic operation)意味“不可被中断的一个或一系列操作”。在多个处理器上实现原子操作就变得有点复杂。


1.原子操作的相关概念

1.1 在连接原子才注意实现原理钱,我们先了解一下相关的术语。

名称英文解释
缓存行Cache Line缓存的最小操作单位
比较并交换Compare And SwapCAS 操作需要输入两个数值,一个旧值(期望操作前的值)和一个新值,在操作期间先比较旧值有没有变化,如果没有发生变化,才交换成新值,发生了变化则不交换
CPU流水线CPU pipelineCPU流水线的工作方式就像工业生产上装配流水线,在CPU中由5 ~ 6个不同功能的电路单元组成一条指令处理流水线,然后将一条X86指令分成5 ~ 6步后再由这些电路单元分别执行,这样就能实现在一个CPU时钟周期完成一条指令,因此提高CPU的运算速度
内存顺序冲突Memory order violation内存顺序冲突一般是由假共享引起的,假共享是指多个CPU同时修改同一个缓存行的不同部分而引起其中一个CPU的操作无效,当出现这个内存顺序冲突时,CPU必须清空流水线

1.2 处理器如何实现原子操作

1.2.1 第一个机制是通过总线锁保证原子性

   如果多个处理器同时对共享变量进行读改写操作(即i++操作),那么共享变量就会被多个处理器同时操作,这样读改写操作就不是原子的,操作完之后共享变量的值会和期望不一致。原因可能是多个处理器同时从各自的缓存中读取变量i,分别进行加1操作,然后分别写入系统内存中。那么想要保住读改写共享变量的操作是原子的,就必须保证CPU1读改写共享变量的时候,CPU2不能操作缓存了该共享变量内存地址的缓存。    处理器使用总线锁就是来解决这个问题的。所谓总线锁就是使用处理器提供的一个LOCK#信号,当一个处理器在总线上输出此信号时,其他处理器的请求将被阻塞住,那么该处理器可以独占共享内存。

1.2.2 第二个机制是通过缓存锁定来保证原子性

   在同一时刻,我们只需保证对某个内存地址的操作是原子性即可,但总线锁定把CPU和内存之间的通信锁住了,这使得锁定期间,其他处理器不能操作其他内存地址的数据,所以总线锁定的开销比较大,目前处理器在某些场合下使用缓存代替总线锁定来进行优化。

但是目前有两种情况处理器是不能使用缓存锁定的。

  1. 当操作的数据不能被缓存在处理器内部,或操作的数据跨多个缓存行时,则处理器会调用总线锁定。
  2. 有些处理器不支持缓存锁定。

1.3 java实现原子操作

在Java中可以通过锁和循环CAS的方式来实现原子操作

  1. 使用循环CAS实现原子操作    JVM中的CAS操作正是利用了处理器提供的CMPXCHG指令实现的。自旋CAS实现的基本思路就是循环进行CAS操作直到成功为止,下面我们分别通过CAS线程安全和非线程安全实现计数器进行对比:
public class Counter {

    private AtomicInteger atomic = new AtomicInteger(0);

    private int i = 0;

    public static void main(String[] args) {
        final Counter cas = new Counter();
        List<Thread> ts = new ArrayList<>(600);
        long start = System.currentTimeMillis();
        for (int i = 0; i < 100; i++) {
            Thread t = new Thread(() -> {
                for (int j = 0; j < 10000; j++) {
                    cas.safeCount();
                    cas.count();
                }
            });
            ts.add(t);
        }

        for (Thread t : ts) {
            t.start();
        }

        // 等到所有线程执行完成
        for (Thread t : ts) {
            try {
                t.join();
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
        }

        System.out.println(cas.i);
        System.out.println(cas.atomic.get());
        System.out.println(System.currentTimeMillis() - start);
    }

    /**
     * 使用CAS实现线程安全计数器
     */
    private void safeCount() {
        for (; ; ) {
            int i = atomic.get();
            boolean suc = atomic.compareAndSet(i, ++i);
            if (suc) {
                break;
            }
        }
    }

    /**
     * 非线程安全计数器
     */
    private void count() {
        i++;
    }
}

从JDK1.5开始,JDK的并发包里提供了一些类来支持原子操作,如AtomicBoolean(用原子方式更新的boolean的值)、AtomicInteger(用原子方式更新的int值)和AtomicLong(用原子方式更新的long值)。

  1. CAS实现原子操作的三个问题    在Java并发包中有一些并发框架也使用了自旋CAS的方式来实现原子操作,比如LinkedTransferQueue类的Xfer方法。CAS虽然很高效地解决了原子操作,但是CAS仍然存在三大问题,ABA问题,循环时间长开销大,以及只能保证一个共享变量的原子操作。

    1. ABA问题
    	因为CAS需要在操作值的时候,检查值有没有发送变化,如果没有发生变化则更新,但是如果一个值原来是A,
    	变成了B,又变成了A,那么使用CAS进行检查时会发现他的值没有发生变化,但是实际上却变化了。ABA问题
    	的解决思路就是使用版本号。在变量前面追加上版本号,每次变量更新的时候把版本号加上,那么A>B>A就会
    	变成1A>2B>3A。从JDK1.5开始,JDK的Atomic包里提供了一个类AtomicStampedReference来解决ABA问题。
    	这个类的compareAndSet方法的作用是首先检查当前引用是否等于预期引用,并且检查当前标志是否等于预期
    	标志,如果全部相等,则以原子方式将该引用和该标志的值设置为给定的更新值。
    

    /**
     * Atomically sets the value of both the reference and stamp
     * to the given update values if the
     * current reference is {@code ==} to the expected reference
     * and the current stamp is equal to the expected stamp.
     *
     * @param expectedReference the expected value of the reference 预期的引用值
     * @param newReference the new value for the reference	新的引用值
     * @param expectedStamp the expected value of the stamp	预期的标志
     * @param newStamp the new value for the stamp	新的标志
     * @return {@code true} if successful
     */
    public boolean compareAndSet(V   expectedReference,
                                 V   newReference,
                                 int expectedStamp,
                                 int newStamp) {
        Pair<V> current = pair;
        return
            expectedReference == current.reference &&
            expectedStamp == current.stamp &&
            ((newReference == current.reference &&
              newStamp == current.stamp) ||
             casPair(current, Pair.of(newReference, newStamp)));
    }
    
	2. 循环时间长开销大
		自旋CAS如果长时间不成功,会给CPU带来非常大的执行开销。如果JVM能支持处理器提供的pause指令,
		那么效率会有一定的提升。pause指令有两个作用:第一,他可以延迟流水线执行命令,使CPU不会消耗
		过多的执行资源,延迟的时间取决于具体实现的版本,在一些处理器上延迟时间是零;第二,他可以避免
		在退出循环的时候因内存顺序冲突而引起CPU流水线被清空,从而提高CPU的执行效率。

	3. 只能保证一个共享变量的原子操作
		当对一个共享变量执行操作时,我们可以使用循环CAS的方式来保证原子操作,但是对多个共享变量操作
		时,循环CAS就无法保证操作的原子性,这个时候就可以用锁。

3.使用锁机制实现原子操作    锁机制保证了只有获得锁的线程才能够操作锁定的内存区域。JVM内部实现了很多种锁机制,有偏向锁、轻量级锁和互斥锁。