原子(atomic)本意是“不能被进一步分割的最小粒子”,而原子操作(atomic operation)意味“不可被中断的一个或一系列操作”。在多个处理器上实现原子操作就变得有点复杂。
1.原子操作的相关概念
1.1 在连接原子才注意实现原理钱,我们先了解一下相关的术语。
| 名称 | 英文 | 解释 |
|---|---|---|
| 缓存行 | Cache Line | 缓存的最小操作单位 |
| 比较并交换 | Compare And Swap | CAS 操作需要输入两个数值,一个旧值(期望操作前的值)和一个新值,在操作期间先比较旧值有没有变化,如果没有发生变化,才交换成新值,发生了变化则不交换 |
| CPU流水线 | CPU pipeline | CPU流水线的工作方式就像工业生产上装配流水线,在CPU中由5 ~ 6个不同功能的电路单元组成一条指令处理流水线,然后将一条X86指令分成5 ~ 6步后再由这些电路单元分别执行,这样就能实现在一个CPU时钟周期完成一条指令,因此提高CPU的运算速度 |
| 内存顺序冲突 | Memory order violation | 内存顺序冲突一般是由假共享引起的,假共享是指多个CPU同时修改同一个缓存行的不同部分而引起其中一个CPU的操作无效,当出现这个内存顺序冲突时,CPU必须清空流水线 |
1.2 处理器如何实现原子操作
1.2.1 第一个机制是通过总线锁保证原子性
如果多个处理器同时对共享变量进行读改写操作(即i++操作),那么共享变量就会被多个处理器同时操作,这样读改写操作就不是原子的,操作完之后共享变量的值会和期望不一致。原因可能是多个处理器同时从各自的缓存中读取变量i,分别进行加1操作,然后分别写入系统内存中。那么想要保住读改写共享变量的操作是原子的,就必须保证CPU1读改写共享变量的时候,CPU2不能操作缓存了该共享变量内存地址的缓存。 处理器使用总线锁就是来解决这个问题的。所谓总线锁就是使用处理器提供的一个LOCK#信号,当一个处理器在总线上输出此信号时,其他处理器的请求将被阻塞住,那么该处理器可以独占共享内存。
1.2.2 第二个机制是通过缓存锁定来保证原子性
在同一时刻,我们只需保证对某个内存地址的操作是原子性即可,但总线锁定把CPU和内存之间的通信锁住了,这使得锁定期间,其他处理器不能操作其他内存地址的数据,所以总线锁定的开销比较大,目前处理器在某些场合下使用缓存代替总线锁定来进行优化。
但是目前有两种情况处理器是不能使用缓存锁定的。
- 当操作的数据不能被缓存在处理器内部,或操作的数据跨多个缓存行时,则处理器会调用总线锁定。
- 有些处理器不支持缓存锁定。
1.3 java实现原子操作
在Java中可以通过锁和循环CAS的方式来实现原子操作
- 使用循环CAS实现原子操作 JVM中的CAS操作正是利用了处理器提供的CMPXCHG指令实现的。自旋CAS实现的基本思路就是循环进行CAS操作直到成功为止,下面我们分别通过CAS线程安全和非线程安全实现计数器进行对比:
public class Counter {
private AtomicInteger atomic = new AtomicInteger(0);
private int i = 0;
public static void main(String[] args) {
final Counter cas = new Counter();
List<Thread> ts = new ArrayList<>(600);
long start = System.currentTimeMillis();
for (int i = 0; i < 100; i++) {
Thread t = new Thread(() -> {
for (int j = 0; j < 10000; j++) {
cas.safeCount();
cas.count();
}
});
ts.add(t);
}
for (Thread t : ts) {
t.start();
}
// 等到所有线程执行完成
for (Thread t : ts) {
try {
t.join();
} catch (InterruptedException e) {
e.printStackTrace();
}
}
System.out.println(cas.i);
System.out.println(cas.atomic.get());
System.out.println(System.currentTimeMillis() - start);
}
/**
* 使用CAS实现线程安全计数器
*/
private void safeCount() {
for (; ; ) {
int i = atomic.get();
boolean suc = atomic.compareAndSet(i, ++i);
if (suc) {
break;
}
}
}
/**
* 非线程安全计数器
*/
private void count() {
i++;
}
}
从JDK1.5开始,JDK的并发包里提供了一些类来支持原子操作,如AtomicBoolean(用原子方式更新的boolean的值)、AtomicInteger(用原子方式更新的int值)和AtomicLong(用原子方式更新的long值)。
-
CAS实现原子操作的三个问题 在Java并发包中有一些并发框架也使用了自旋CAS的方式来实现原子操作,比如LinkedTransferQueue类的Xfer方法。CAS虽然很高效地解决了原子操作,但是CAS仍然存在三大问题,ABA问题,循环时间长开销大,以及只能保证一个共享变量的原子操作。
1. ABA问题 因为CAS需要在操作值的时候,检查值有没有发送变化,如果没有发生变化则更新,但是如果一个值原来是A, 变成了B,又变成了A,那么使用CAS进行检查时会发现他的值没有发生变化,但是实际上却变化了。ABA问题 的解决思路就是使用版本号。在变量前面追加上版本号,每次变量更新的时候把版本号加上,那么A>B>A就会 变成1A>2B>3A。从JDK1.5开始,JDK的Atomic包里提供了一个类AtomicStampedReference来解决ABA问题。 这个类的compareAndSet方法的作用是首先检查当前引用是否等于预期引用,并且检查当前标志是否等于预期 标志,如果全部相等,则以原子方式将该引用和该标志的值设置为给定的更新值。
/**
* Atomically sets the value of both the reference and stamp
* to the given update values if the
* current reference is {@code ==} to the expected reference
* and the current stamp is equal to the expected stamp.
*
* @param expectedReference the expected value of the reference 预期的引用值
* @param newReference the new value for the reference 新的引用值
* @param expectedStamp the expected value of the stamp 预期的标志
* @param newStamp the new value for the stamp 新的标志
* @return {@code true} if successful
*/
public boolean compareAndSet(V expectedReference,
V newReference,
int expectedStamp,
int newStamp) {
Pair<V> current = pair;
return
expectedReference == current.reference &&
expectedStamp == current.stamp &&
((newReference == current.reference &&
newStamp == current.stamp) ||
casPair(current, Pair.of(newReference, newStamp)));
}
2. 循环时间长开销大
自旋CAS如果长时间不成功,会给CPU带来非常大的执行开销。如果JVM能支持处理器提供的pause指令,
那么效率会有一定的提升。pause指令有两个作用:第一,他可以延迟流水线执行命令,使CPU不会消耗
过多的执行资源,延迟的时间取决于具体实现的版本,在一些处理器上延迟时间是零;第二,他可以避免
在退出循环的时候因内存顺序冲突而引起CPU流水线被清空,从而提高CPU的执行效率。
3. 只能保证一个共享变量的原子操作
当对一个共享变量执行操作时,我们可以使用循环CAS的方式来保证原子操作,但是对多个共享变量操作
时,循环CAS就无法保证操作的原子性,这个时候就可以用锁。
3.使用锁机制实现原子操作 锁机制保证了只有获得锁的线程才能够操作锁定的内存区域。JVM内部实现了很多种锁机制,有偏向锁、轻量级锁和互斥锁。