开启掘金成长之旅!这是我参与「掘金日新计划 · 12 月更文挑战」的第28天,点击查看活动详情
并发编程-共享模型之无锁(一)介绍了无锁。
并发编程-共享模型之无锁(二)介绍了原子性的原子整数。
并发编程-共享模型之无锁(三)介绍了原子数组。
本篇分析原子类LongAdder的源码。
LongAdder
LongAdder 是并发大师 @author Doug Lea (大哥李)的作品,设计的非常精巧
LongAdder 类有几个关键域
// 累加单元数组, 懒惰初始化
transient volatile Cell[] cells;
// 基础值, 如果没有竞争, 则用 cas 累加这个域
transient volatile long base;
// 在 cells 创建或扩容时, 置为 1, 表示加锁
transient volatile int cellsBusy;
其中 Cell 即为累加单元
// 防止缓存行伪共享
@sun.misc.Contended
static final class Cell {
volatile long value;
Cell(long x) { value = x; }
// 最重要的方法, 用来 cas 方式进行累加, prev 表示旧值, next 表示新值
final boolean cas(long prev, long next) {
return UNSAFE.compareAndSwapLong(this, valueOffset, prev, next);
}
// 省略不重要代码
}
得从缓存说起。
缓存与内存的速度比较。
因为 CPU 与 内存的速度差异很大,需要靠预读数据至缓存来提升效率。
而缓存以缓存行为单位,每个缓存行对应着一块内存,一般是 64 byte(8 个 long)。
缓存的加入会造成数据副本的产生,即同一份数据会缓存在不同核心的缓存行中。
CPU 要保证数据的一致性,如果某个 CPU 核心更改了数据,其它 CPU 核心对应的整个缓存行必须失效。
因为 Cell 是数组形式,在内存中是连续存储的,一个 Cell 为 24 字节(16 字节的对象头和 8 字节的 value),因 此缓存行可以存下 2 个的 Cell 对象。这样问题来了:
-
Core-0 要修改 Cell[0]
-
Core-1 要修改 Cell[1]
无论谁修改成功,都会导致对方 Core 的缓存行失效,比如Core-0 中Cell[0]=6000, Cell[1]=8000要累加Cell[0]=6001, Cell[1]=8000 ,这时会让 Core-1 的缓存行失效。
@sun.misc.Contended 用来解决这个问题,它的原理是在使用此注解的对象或字段的前后各增加 128 字节大小的 padding,从而让 CPU 将对象预读至缓存时占用不同的缓存行,这样,不会造成对方缓存行的失效。
累加主要调用下面的方法
public void add(long x) {
// as 为累加单元数组
// b 为基础值
// x 为累加值
Cell[] as; long b, v; int m; Cell a;
// 进入 if 的两个条件
// 1. as 有值, 表示已经发生过竞争, 进入 if
// 2. cas 给 base 累加时失败了, 表示 base 发生了竞争, 进入 if
if ((as = cells) != null || !casBase(b = base, b + x)) {
// uncontended 表示 cell 没有竞争
boolean uncontended = true;
if (
// as 还没有创建
as == null || (m = as.length - 1) < 0 ||
// 当前线程对应的 cell 还没有
// getProbe()方法返回的是线程中的threadLocalRandomProbe字段
// 它是通过随机数生成的一个值,对于一个确定的线程这个值是固定的
// 除非刻意修改它
(a = as[getProbe() & m]) == null ||
// cas 给当前线程的 cell 累加失败 uncontended=false ( a 为当前线程的 cell )
!(uncontended = a.cas(v = a.value, v + x))
) {
// 进入 cell 数组创建、cell 创建的流程
longAccumulate(x, null, uncontended);
}
}
}
总结
- 如果已经
有了累加数组或给base累加发生了竞争导致失败- 如果
累加数组没有创建或者累加数组长度为1或者当前线程还没有对应的cell或者累加cell失败- 进入累加数组的创建流程
- 否者说明累加成功,退出。
- 如果
- 否则累加成功
final void longAccumulate(long x, LongBinaryOperator fn,
boolean wasUncontended) {
int h;
// 当前线程还没有对应的 cell, 需要随机生成一个 h 值用来将当前线程绑定到 cell
if ((h = getProbe()) == 0) {
// 初始化 probe
ThreadLocalRandom.current();
// h 对应新的 probe 值, 用来对应 cell
h = getProbe();
wasUncontended = true;
}
// collide 为 true 表示最后一个槽非空,需要扩容
boolean collide = false;
for (;;) {
Cell[] as; Cell a; int n; long v;
// 已经有了 cells
if ((as = cells) != null && (n = as.length) > 0) {
// 还没有 cell
if ((a = as[(n - 1) & h]) == null) {
// 为 cellsBusy 加锁, 创建 cell, cell 的初始累加值为 x
// 成功则 break, 否则继续 continue 循环
if (cellsBusy == 0) { // Try to attach new Cell
Cell r = new Cell(x); // Optimistically create
if (cellsBusy == 0 && casCellsBusy()) {
boolean created = false;
try { // Recheck under lock
Cell[] rs; int m, j;
if ((rs = cells) != null &&
(m = rs.length) > 0 &&
rs[j = (m - 1) & h] == null) {
rs[j] = r;
created = true;
}
} finally {
cellsBusy = 0;
}
if (created)
break;
continue; // Slot is now non-empty
}
}
collide = false;
}
// 有竞争, 改变线程对应的 cell 来重试 cas
else if (!wasUncontended)
wasUncontended = true;
// cas 尝试累加, fn 配合 LongAccumulator 不为 null, 配合 LongAdder 为 null
else if (a.cas(v = a.value, ((fn == null) ? v + x : fn.applyAsLong(v, x))))
break;
// 如果 cells 长度已经超过了最大长度, 或者已经扩容, 改变线程对应的 cell 来重试 cas
else if (n >= NCPU || cells != as)
collide = false;
// 确保 collide 为 false 进入此分支, 就不会进入下面的 else if 进行扩容了
else if (!collide)
collide = true;
// 加锁
else if (cellsBusy == 0 && casCellsBusy()) {
// 加锁成功, 扩容
continue;
}
// 改变线程对应的 cell
h = advanceProbe(h);
}
// 还没有 cells, 尝试给 cellsBusy 加锁
else if (cellsBusy == 0 && cells == as && casCellsBusy()) {
// 加锁成功, 初始化 cells, 最开始长度为 2, 并填充一个 cell
// 成功则 break;
boolean init = false;
try { // Initialize table
if (cells == as) {
Cell[] rs = new Cell[2];
rs[h & 1] = new Cell(x);
cells = rs;
init = true;
}
} finally {
cellsBusy = 0;
}
if (init)
break;
}
// 上两种情况失败, 尝试给 base 累加
else if (casBase(v = base, ((fn == null) ? v + x : fn.applyAsLong(v, x))))
break;
}
}
小结
-
先判断当前线程有没有对应的Cell
- 如果没有,随机生成一个值,这个值与当前线程绑定,通过这个值的取模运算定位当前线程Cell的位置。
-
进入for循环
-
if 有Cells累加数组且长度大于0
-
if 如果当前线程没有cell
- 准备扩容,如果前累加数组不繁忙(正在扩容之类)
- 将新建的cell放入对应的槽位中,新建Cell成功,进入下一次循环,尝试cas累加。
- 将collide置为false,表示无需扩容。
- 准备扩容,如果前累加数组不繁忙(正在扩容之类)
-
else if 有竞争
- 将wasUncontended置为tue,进入分支底部,改变线程对应的cell来cas重试
-
else if cas重试累加成功
- 退出循环。
-
else if cells 长度已经超过了最大长度, 或者已经扩容,
- collide置为false,进入分支底部,改变线程对应的 cell 来重试 cas
-
else if collide为false
- 将collide置为true(确保 collide 为 false 进入此分支, 就不会进入下面的 else if 进行扩容了)
-
else if 累加数组不繁忙且加锁成功
- 退出本次循环,进入下一次循环(扩容)
-
改变线程对应的 cell 来重试 cas
-
-
else if 数组不繁忙且数组为null且加锁成功
- 新建数组,在槽位处新建cell,释放锁,退出循环。
-
else if 尝试给base累加成功
- 退出循环
-
每个线程刚进入 longAccumulate 时,会尝试对应一个 cell 对象(找到一个坑位)。 获取最终结果通过 sum 方法
public long sum() {
Cell[] as = cells; Cell a;
long sum = base;
if (as != null) {
for (int i = 0; i < as.length; ++i) {
if ((a = as[i]) != null)
sum += a.value;
}
}
return sum;
}
与运算和取模的关系
Unsafe
概述
Unsafe 对象提供了非常底层的,操作内存、线程的方法,Unsafe 对象不能直接调用,只能通过反射获得。jdk8直接调用Unsafe.getUnsafe()获得的unsafe不能用。
public class UnsafeAccessor {
static Unsafe unsafe;
static {
try {
Field theUnsafe = Unsafe.class.getDeclaredField("theUnsafe");
theUnsafe.setAccessible(true);
unsafe = (Unsafe) theUnsafe.get(null);
} catch (NoSuchFieldException | IllegalAccessException e) {
throw new Error(e);
}
}
static Unsafe getUnsafe() {
return unsafe;
}
}
方法:
//以下三个方法只执行一次,成功返回true,不成功返回false
public final native boolean compareAndSwapObject(Object var1, long var2, Object var4, Object var5);
public final native boolean compareAndSwapInt(Object var1, long var2, int var4, int var5);
public final native boolean compareAndSwapLong(Object var1, long var2, long var4, long var6);
//以下方法都是在以上三个方法的基础上进行封装,会循环直到成功为止。
public final int getAndAddInt(Object var1, long var2, int var4) {
int var5;
do {
var5 = this.getIntVolatile(var1, var2);
} while(!this.compareAndSwapInt(var1, var2, var5, var5 + var4));
return var5;
}
public final long getAndAddLong(Object var1, long var2, long var4) {
long var6;
do {
var6 = this.getLongVolatile(var1, var2);
} while(!this.compareAndSwapLong(var1, var2, var6, var6 + var4));
return var6;
}
public final int getAndSetInt(Object var1, long var2, int var4) {
int var5;
do {
var5 = this.getIntVolatile(var1, var2);
} while(!this.compareAndSwapInt(var1, var2, var5, var4));
return var5;
}
public final long getAndSetLong(Object var1, long var2, long var4) {
long var6;
do {
var6 = this.getLongVolatile(var1, var2);
} while(!this.compareAndSwapLong(var1, var2, var6, var4));
return var6;
}
public final Object getAndSetObject(Object var1, long var2, Object var4) {
Object var5;
do {
var5 = this.getObjectVolatile(var1, var2);
} while(!this.compareAndSwapObject(var1, var2, var5, var4));
Unsafe CAS 操作
unsafe实现字段更新
@Data
class Student {
volatile int id;
volatile String name;
}
Unsafe unsafe = UnsafeAccessor.getUnsafe();
Field id = Student.class.getDeclaredField("id");
Field name = Student.class.getDeclaredField("name");
// 获得成员变量的偏移量
long idOffset = UnsafeAccessor.unsafe.objectFieldOffset(id);
long nameOffset = UnsafeAccessor.unsafe.objectFieldOffset(name);
Student student = new Student();
// 使用 cas 方法替换成员变量的值
UnsafeAccessor.unsafe.compareAndSwapInt(student, idOffset, 0, 20); // 返回 true
UnsafeAccessor.unsafe.compareAndSwapObject(student, nameOffset, null, "张三"); // 返回 true
System.out.println(student);
输出
Student(id=20, name=张三)
unsafe实现原子整数
class AtomicData {
private volatile int data;
static final Unsafe unsafe;
static final long DATA_OFFSET;
static {
unsafe = UnsafeAccessor.getUnsafe();
try {
// data 属性在 DataContainer 对象中的偏移量,用于 Unsafe 直接访问该属性
DATA_OFFSET = unsafe.objectFieldOffset(AtomicData.class.getDeclaredField("data"));
} catch (NoSuchFieldException e) {
throw new Error(e);
}
}
public AtomicData(int data) {
this.data = data;
}
public void decrease(int amount) {
int oldValue;
while(true) {
// 获取共享变量旧值,可以在这一行加入断点,修改 data 调试来加深理解
oldValue = data;
// cas 尝试修改 data 为 旧值 + amount,如果期间旧值被别的线程改了,返回 false
if (unsafe.compareAndSwapInt(this, DATA_OFFSET, oldValue, oldValue - amount)) {
return;
}
}
}
public int getData() {
return data;
}
}
Account 实现
Account.demo(new Account() {
AtomicData atomicData = new AtomicData(10000);
@Override
public Integer getBalance() {
return atomicData.getData();
}
@Override
public void withdraw(Integer amount) {
atomicData.decrease(amount);
}
});
手动实现原子整数完整版+测试
public class UnsafeAtomicTest{
public static void main(String[] args) {
//赋初始值10000,调用demo后正确的输出结果为0
AccountImpl account = new AccountImpl(10000);
//结果正确地输出0
account.demo();
}
}
interface Account{
//获取balance的方法
int getBalance();
//取款的方法
void decrease(int amount);
//演示多线程取款,检查安全性。
default void demo(){
ArrayList<Thread> ts = new ArrayList<>(1000);
for (int i = 0; i < 1000; i++) {
ts.add(new Thread(() -> {
decrease(10);
}));
}
for (Thread t:ts) {
t.start();
}
for (Thread t:ts) {
try {
t.join();
} catch (InterruptedException e) {
e.printStackTrace();
}
}
System.out.println(getBalance());
}
}
//实现账户类,使用手动实现的原子整数作为余额类型
class AccountImpl implements Account{
UnsafeAtomicInteger balance;
public AccountImpl(int balance){
this.balance = new UnsafeAtomicInteger(balance);
}
@Override
public int getBalance() {
return balance.get();
}
@Override
public void decrease(int amount) {
balance.getAndAccumulate(amount,(x,y) -> y - x);
}
}
//手动实现原子整数类
class UnsafeAtomicInteger {
//将value声明为volatile,因为乐观锁需要可见性。
private volatile int value;
//需要Unsafe的cas本地方法实现操作。
private static final Unsafe unsafe;
//偏移量,这两个变量很重要且通用、不可变,所以均声明为private static final
private static final long offset;
static{
//静态代码块初始化unsafe
unsafe = UnsafeAccessor.getUnsafe();
try {
//获取value在当前类中的偏移量
offset = unsafe.objectFieldOffset(UnsafeAtomicInteger.class.getDeclaredField("value"));
} catch (NoSuchFieldException e) {
e.printStackTrace();
//待研究
throw new Error(e);
}
}
public UnsafeAtomicInteger(){
}
public UnsafeAtomicInteger(int value){
this.value = value;
}
public final int get(){
return value;
}
public final boolean compareAndSet(int expext,int update){
return unsafe.compareAndSwapInt(this, offset, expext, update);
}
public final int getAndIncrement(){
//局部变量是必须的,因为多次从主存中读取value的值不可靠。
int oldValue;
while (true){
oldValue = value;
if(unsafe.compareAndSwapInt(this,offset,oldValue,oldValue + 1)){
return oldValue;
}
}
}
public final int incrementAndGet(){
int oldValue;
while (true){
oldValue = value;
if (unsafe.compareAndSwapInt(this, offset, oldValue, oldValue + 1)) {
return oldValue + 1;
}
}
}
public final int getAndDecrement(){
int oldValue;
while (true){
oldValue = value;
if (unsafe.compareAndSwapInt(this, offset, oldValue, oldValue - 1)) {
return oldValue;
}
}
}
public final int decrementAndGet(){
int oldValue;
while (true){
oldValue = value;
if (unsafe.compareAndSwapInt(this, offset, oldValue, oldValue - 1)) {
return oldValue - 1;
}
}
}
public final int getAndUpdate(IntUnaryOperator operator){
int oldValue;
int newValue;
while (true){
oldValue = value;
newValue = operator.applyAsInt(oldValue);
if (unsafe.compareAndSwapInt(this, offset, oldValue, newValue)) {
return oldValue;
}
}
}
public final int updateAndGet(IntUnaryOperator operator){
int oldValue;
int newValue;
while (true){
oldValue = value;
newValue = operator.applyAsInt(oldValue);
if (unsafe.compareAndSwapInt(this, offset, oldValue, newValue)) {
return newValue;
}
}
}
public final int getAndAccumulate(int x, IntBinaryOperator operator){
int oldValue;
int newValue;
while (true){
oldValue = value;
newValue = operator.applyAsInt(x,oldValue);
if (unsafe.compareAndSwapInt(this, offset, oldValue, newValue)) {
return newValue;
}
}
}
public final int accumulateAndGet(int x, IntBinaryOperator operator){
int oldValue;
int newValue;
while (true){
oldValue = value;
newValue = operator.applyAsInt(x,oldValue);
if (unsafe.compareAndSwapInt(this, offset, oldValue, newValue)) {
return oldValue;
}
}
}
}
class UnsafeAccessor{
public static Unsafe getUnsafe(){
Field field;
Unsafe unsafe = null;
try {
field = Unsafe.class.getDeclaredField("theUnsafe");
field.setAccessible(true);
unsafe = (Unsafe)field.get(null);
} catch (Exception e) {
e.printStackTrace();
}
return unsafe;
}
}
自定义cas锁
// 不要用于实践!!!
public class LockCas {
private AtomicInteger state = new AtomicInteger(0);
public void lock() {
while (true) {
if (state.compareAndSet(0, 1)) {
break;
}
}
}
public void unlock() {
log.debug("unlock...");
state.set(0);
}
}
测试
LockCas lock = new LockCas();
new Thread(() -> {
log.debug("begin...");
lock.lock();
try {
log.debug("lock...");
sleep(1);
} finally {
lock.unlock();
}
}).start();
new Thread(() -> {
log.debug("begin...");
lock.lock();
try {
log.debug("lock...");
} finally {
lock.unlock();
}
}).start();
18:27:07.198 c.Test42 [Thread-0] - begin...
18:27:07.202 c.Test42 [Thread-0] - lock...
18:27:07.198 c.Test42 [Thread-1] - begin...
18:27:08.204 c.Test42 [Thread-0] - unlock...
18:27:08.204 c.Test42 [Thread-1] - lock...
18:27:08.204 c.Test42 [Thread-1] - unlock...
小结
-
CAS 与 volatile
-
API
-
原子整数
-
原子引用
-
原子数组
-
字段更新器
-
原子累加器
-
-
Unsafe
-
原理方面
- LongAdder 源码
- 伪共享