Bootstrap

【并发编程的艺术】JAVA 原子操作实现原理

系列文章:

前一章中,我们描述了volatile 和 synchronized的实现原理,本篇介绍原子操作特性、

一 相关定义

1.1 缓存行(Cache line)

通过前面学习,已经知道cpu的多级缓存结构,缓存行是缓存的最小操作单位。

1.2 CAS

即Compare And Swap,比较并交换。java的unsafe包中提供了相关方法。

1.3 CPU流水线

CPI pipeline,工作方式类似工业生产上的装配流水线,CPU中多个不同功能的单元组成一条指令流水线。一条指令可能会被分为5-6个步骤之后再分别执行,来实现一个CPU时钟周期内完成一条指令,提高运算速度。

1.4 内存顺序冲突

Memory order violation。一般是由“假共享”引起。假共享,是指多CPU同时修改一个缓存行的不同部分,导致其中一个CPU的操作无效。出现内存顺序冲突时,CPU必须清空流水线。

二 操作系统中原子操作的实现原理

CPU提供两个机制来保证复杂内存操作的原子性:总线锁定 和 缓存锁定。

2.1 总线锁

先研究一个典型案例:i++。当两个CPU中同时对共享变量i执行++操作时,我们预期结果是i=3,但实际的结果可能是2:

为什么会出现这样的情况?(回想上一篇文章中提到过的cpu缓存结构),各CPU可能同时从自己的缓存中读取变量i的值,分别进行加1操作,再分别写入系统内存。要保证i++底层操作的原子性,就必须保证CPU1修改共享变量时,CPU2不能同时执行修改操作。

所谓总线锁,就是CPU提供LOCK#信号,当某个CPU在总线上输出这个信号时,其他CPU请求会被阻塞。

关于总线,再回顾一下CPU多级缓存结构,下图中的Bus就是总线:

另外,这个LOCK信号是否有点眼熟?这就是前篇中的:

2.2 缓存锁

总线锁是通过锁住总线来确保某个CPU可以独占共享内存,这样锁的开销其实是比较大的。这会导致锁定期间其他CPU无法操作其他内存地址的数据。其他CPU其实也可以考虑,只需要保证某个时刻对一个固定的内存地址的操作是原子性的即可,这样就降低了锁的粒度。

频繁使用的内存(数据)会缓存在CPU的L1、L2,L3级缓存,所以原子操作可以在各级缓存中进行。

缓存锁定,是指内存区域如果被缓存在CPU的缓存行中,并且在Lock操作期间被锁定,那么当执行锁操作回写内存时,CPU不能在总线上声言LOCK#新号,而是修改内存的内存地址,并通过缓存一致性机制阻止同时修改由两个及两个以上CPU缓存的内存区域数据,当其他CPU回写已被锁定的缓存行的数据时,使缓存行无效。

2.3 缓存行不会被使用的场景

1、操作的数据不能被缓存在CPU的缓存内,或操作的数据跨多个缓存行时,CPU会调用总线锁定;

2、有些CPU不支持缓存锁定。已知这类的CPU:Intel 486和Pentium,就算锁定的内存区域在处理器的缓存行中,也会调用总线锁定。

三 Java中的原子操作实现

两种方式:锁机制 和 CAS。

3.1 锁机制

锁机制,要求只有获得了锁的线程才能操作锁定的内存区域。JVM中的锁包括偏向锁、轻量级锁和重量级锁(互斥锁)。从具体类或命令的角度说,有最常用的synchronized 和 Lock。

3.2 CAS

JVM中的CAS是利用CPU提供的CMPXCHG指令来实现的,通常会配合“自旋”使用,即循环进行CAS直到成功为止。

jdk1.5之后,在并发包中提供了诸如AtomickInteger、AtomicLong等方法来执行对应类型变量的原子更新。

CAS存在的问题:

1、ABA

这也是了解过CAS都知道的典型问题。“比较”,是检查值是否发生了变化,但当一个变量原来的值是A,先变成B后又变成A,这种情况CAS的检查机制会误判为没有发生变化。

解决思路:使用版本号。每次更新时把版本号加1,A->B->A就变成 1A->2B->3A。jdk1.5及以后,Atomic包中提供了类AtomicStampedReference来解决ABA。结构如下:

/**
     * Atomically sets the value of both the reference and stamp
     * to the given update values if the
     * current reference is {@code ==} to the expected reference
     * and the current stamp is equal to the expected stamp.
     *
     * @param expectedReference the expected value of the reference
     * @param newReference the new value for the reference
     * @param expectedStamp the expected value of the stamp
     * @param newStamp the new value for the stamp
     * @return {@code true} if successful
     */
    public boolean compareAndSet(V   expectedReference,
                                 V   newReference,
                                 int expectedStamp,
                                 int newStamp) {
        Pair current = pair;
        return
            expectedReference == current.reference &&
            expectedStamp == current.stamp &&
            ((newReference == current.reference &&
              newStamp == current.stamp) ||
             casPair(current, Pair.of(newReference, newStamp)));
    }

V expectedReference => 预期引用 ,

V newReference => 更新后的引用,

int expectedStamp => 预期标志,

int newStamp => 更新后的标志。

2、循环时间长开销大

循环是为了保证占用CPU,从而避免上下文切换带来的时间消耗。但这会导致一直占用CPU资源。

3、只保证一个共享变量的原子操作

这点是比较好理解的,因为比较、替换都是针对一个变量的操作,所以不适用多个共享变量同时操作的场景。这种情况通常还是会通过锁来实现;或者也可以取巧把多个共享变量合成一个共享变量来操作。

四 总结

本篇把原子操作单独拿出来详细阐述,结合前面两篇文章中的CPU多级缓存结构进行串联,加深理解。下一篇会全面研究Java的内存模型。