关于JVM那点事 -- 垃圾收集算法

195 阅读16分钟

上一篇文章中关于JVM那点事 -- 对象判断中介绍了书本中对于对象的存活以及如何判断对象生命。了解到这些之后,我们就要从垃圾收集算法开始着手。

垃圾收集算法

标记-清除算法

最基础的收集算法:“标记-清除”(Mark-Sweep)算法。算法主要工作就如同他的名字一样,主要分为“标记”和“清除”两个阶段:

  1. 首先标记出所有需要回收的对象。
  2. 在标记完成后统一回收所有被标记的对象。

针对于以上算法的实现步骤,我们可以了解其主要有两处不足:

  1. 效率问题,标记和清除两个过程的效率都不高
  2. 空间问题,清除完成之后会产生大量不连续的空间,空间碎片太多可能导致分配大对象的时候不得不提前触发一次垃圾收集动作。

复制算法

复制算法将可用内存按容量划分为大小相等的两块,然后每次使用其中一块,当这一块内存用完了,就将还存活的对象复制到另外一块上面,然后把已使用的内存空间一次清理掉。使用复制算法不需要考虑内存碎片等情况,但是付出的代价是将内存缩小一半(使得程序gc次数变得很多)

目前这种算法普遍的用于新生代中。新生代中的对象98%都是“朝生夕死”,所以不需要按照1:1的比列来划分内存空间。目前分为一块较大的Eden空间和两块较小的Survivor空间。每次使用Eden和其中一块Survivor。当回收的时候,就将这两块还存活的对象一次性复制到另外一块Survivor空间上。HopSpot虚拟机默认EdenSurvivor的大小比例是8:1。也就是每次回收的时候,只有10%的内存会被“浪费”,但是我们没有办法保证每次回收都只有不多于10%的对象存活,当Survivor空间不够用时候,需要其他的依赖内存(老年代)进行分配担保。

内存的分配担保:如果另外一块Survivor没有足够空间存放上一次新生代收集下来的存活对象时,这些对象将直接通过分配担保机制进入老年代。

标记-整理算法

标记-整理(Mark-Compact)算法,标记的过程与上述谈到的“标记-清除”算法一样,但后续步骤不是直接对可回收对象进行清理,而是让所有存活的对象都向一端移动,然后直接清理掉端边界以外的内存。

分代收集算法

当前商业虚拟机的垃圾收集都采用“分代收集”算法,这种算法并没有新的思想方法,只不过考虑到对象存活周期的不同将内存划分为几块。

在新生代中,每次垃圾收集都会有大批对象死去,只有少量存活没那就选用复制算法。在老年代中因为对象存活率较高,没有额外的空间进行分配担保,则需要使用“标记-清理”或“标记-整理”算法来进行回收。

HopSpot的算法实现

枚举根节点

从可达性分析中从GC Roots节点找引用链这个操作为例,可作为GC Roots的节点主要在全局性的引用(例如常量或类静态属性)与执行上下文(例如栈帧中的本地变量表)中,要是回收的时候逐个检查这些引用,必然会消耗很多时间,同时还要保证一致性(分析期间整个执行系统中的对象引用关系不能再继续变化)。

目前主流的JAVA虚拟机使用的都是准确式GC,使用一组称为OopMap的数据结构来达到这个目的,在类加载完成的时候,HopSpot就把对象内什么偏移量上是什么类型的数据计算出来,在JIT编译过程中,也会在特定的位置记录下栈和寄存器中哪些位置是引用。这样,GC在扫描时就直接得知这些信息了。

安全点

OopMap的协助下,HopSpot可以快速且准确地完成GC Roots枚举,但可能会导致引用关系变化,或者说OopMap内容变化的指令非常多,如果为每一条指令都生成对应的OopMap,那么会需要大量额外空间。

实际上,HopSpot也的确没有为每条指令都生成OopMap,只是在“特定的位置”记录了这些信息,这些位置称为安全点,即程序执行时并非在所有地方都能停顿下来开始GC,只有在到达安全点时才能暂停。安全点的选取基本上是以程序“是否具有让程序长时间执行的特征”为标准进行选定的-因为每条指令执行的时间都非常短暂,程序不太可能因为指令流长度太长这个原因而过长时间运行。“长时间运行”的最明显特征就是指令序列复用,例如方法调用、循环跳转、异常跳转等。

如何在GC发生时让所有线程都进行到安全点上再停顿下来?“抢先式中断”和“主动式中断”就可以解决此问题。

  • 抢先式中断

    不需要线程的执行代码主动去配合,在GC发生时,首先把所有线程全部中断,如果发现有线程中断的地方不在安全点上,就恢复线程,让它进行到安全点上。(现在几乎没有虚拟机采用这种方式)

  • 主动式中断

    GC需要中断的时候,不直接对线程操作,仅仅简单的设置一个标志,各个线程执行时主动去轮询这个标志,发现中断标志位真时就自己中断挂起。轮询标志的地方和安全点是重合的,另外再加上创建对象需要分配内存的地方。

安全区域

使用安全点看样子是已经解决如何进入GC的问题,但实际情况却并不一定。安全点这是保证了程序执行时候,在不太长时间内就会遇到可进入GC的安全点,但是程序如果没有分配到CPU时间(例如线程处于Sleep或者是Blocked状态),此时线程是无法响应JVM的中断请求,"走"到安全的地方去中断挂起,JVM也不会等待线程重新分配CPU时间,那么此时则需要-安全区域。

安全区域是指在一段代码片段中,引用关系不会发生变化。在这个区域中的任意地方开始GC都是安全的,我们把这块区域可以看做是扩展的安全点。

线程执行到安全区域中的代码时,首先标识自己已经进入安全区域,那么当这段时间内JVM要发起GC时,就不用管标识自己为安全区域状态的线程了。在线程离开的时候,它就会去检查系统是否已经完成了根节点的枚举(或整个GC过程),如果完成了,那么线程就继续执行,否则等待直到收到可以离开安全区域的信号为止。

垃圾收集器

如果说收集算法是内存回收的方法论,那么垃圾收集器就是内存回收的具体实现。Java虚拟机规范中对垃圾收集器应该如何实现并没有任何规定规定(下图为HopSpot虚拟机的垃圾收集器)。

上图中展示了7种作用于不同分代的收集器,两者有连线说明他们可以搭配使用,以及解释下并发以及并行。

  • 并行

    多条垃圾收集线程并行工作,但此时用户线程仍然处于等待状态。

  • 并发

    用户线程与垃圾收集线程同时执行(但不一定是并行的,可能会交替执行),用户程序在继续执行,而垃圾收集程序运行于另外一个CPU上。

Serial(串行GC)收集器 - 复制算法

Serial收集器是一个新生代收集器,单线程执行,使用复制算法。它在进行垃圾收集时,必须暂停其他所有的工作线程(用户线程)。是Jvm client模式下默认的新生代收集器。对于限定单个CPU的环境来说,Serial收集器由于没有线程交互的开销,专心做垃圾收集自然可以获得最高的单线程收集效率(下图展示了收集器运行过程)。

ParNew(并行GC)收集器 - 复制算法

ParNew收集器其实就是Serial收集器的多线程版本,除了使用多条线程进行垃圾收集之外,其余行为与Serial收集器一样。

Parallel Scavenge(并行回收GC)收集器 - 复制算法

Parallel Scavenge收集器也是一个新生代收集器,它也是使用复制算法的收集器,又是并行多线程收集器。Parallel Scavenge收集器的特点是它的关注点与其他收集器不同,CMS等收集器的关注点是尽可能地缩短垃圾收集时用户线程的停顿时间,而Parallel Scavenge收集器的目标则是达到一个可控制的吞吐量。吞吐量= 程序运行时间/(程序运行时间 + 垃圾收集时间),虚拟机总共运行了100分钟。其中垃圾收集花掉1分钟,那吞吐量就是99%。

该收集器也被经常称为“吞吐量优先”收集器。其次他还有一个参数 -XX:+UseAdaptiveSizePolicy值得关注。这是一个开关参数,打开之后虚拟机会根据当前系统运行情况收集性能监控信息,动态调整参数已提供最合适的停顿时间或者最大的吞吐量,这种调节方式成为GC自适应的调节策略。这也是与ParNew收集器的一个重要区别。

Serial Old(串行GC)收集器 - 标记-整理算法

Serial OldSerial收集器的老年代版本,它同样使用一个单线程执行收集,使用“标记-整理”算法。主要使用在Client模式下的虚拟机(工作过程如下)。

Parallel Old(并行GC)收集器 -标记-整理算法

Parallel OldParallel Scavenge收集器的老年代版本,使用多线程和“标记-整理”算法。在注重吞吐量以及CPU资源敏感的场合,都可以优先考虑Parallel ScavengeParallel Old(其工作过程如下)。

CMS(并发GC)收集器 -标记-清除

CMS(Concurrent Mark Sweep)收集器是一种以获取最短回收停顿时间为目标的收集器

  1. 初始标记(CMS initial mark)
  2. 并发标记(CMS concurrenr mark)
  3. 重新标记(CMS remark)
  4. 并发清除(CMS concurrent sweep)

其中初始标记、重新标记这两个步骤任然需要停顿其他用户线程。

初始标记仅仅只是标记出GC ROOTS能直接关联到的对象,速度很快,并发标记阶段是进行GC ROOTS根搜索算法阶段,会判定对象是否存活。而重新标记阶段则是为了修正并发标记期间,因用户程序继续运行而导致标记产生变动的那一部分对象的标记记录,这个阶段的停顿时间会被初始标记阶段稍长,但比并发标记阶段要短。

由于整个过程中耗时最长的并发标记和并发清除过程中,收集器线程都可以与用户线程一起工作,所以整体来说,CMS收集器的内存回收过程是与用户线程一起并发执行的。

CMS收集器的优点:并发收集、低停顿,但是CMS还远远达不到完美,主要有三个显著缺点:

  • CMS收集器对CPU资源非常敏感。在并发阶段,虽然不会导致用户线程停顿,但是会占用CPU资源而导致引用程序变慢,总吞吐量下降。CMS默认启动的回收线程数是:(CPU数量+3) / 4。

  • CMS收集器无法处理浮动垃圾,可能出现Concurrent Mode Failure,失败后而导致另一次Full GC的产生。由于CMS并发清理阶段用户线程还在运行,伴随程序的运行自热会有新的垃圾不断产生,这一部分垃圾出现在标记过程之后,CMS无法在本次收集中处理它们,只好留待下一次GC时将其清理掉。这一部分垃圾称为“浮动垃圾”。也是由于在垃圾收集阶段用户线程还需要运行,即需要预留足够的内存空间给用户线程使用,因此CMS收集器不能像其他收集器那样等到老年代几乎完全被填满了再进行收集,需要预留一部分内存空间提供并发收集时的程序运作使用。在默认设置下,CMS收集器在老年代使用了68%的空间时就会被激活,也可以通过参数-XX:CMSInitiatingOccupancyFraction的值来提供触发百分比,以降低内存回收次数提高性能。要是CMS运行期间预留的内存无法满足程序其他线程需要,就会出现Concurrent Mode Failure失败,这时候虚拟机将启动后备预案:临时启用Serial Old收集器来重新进行老年代的垃圾收集,这样停顿时间就很长了。所以说参数-XX:CMSInitiatingOccupancyFraction设置的过高将会很容易导致Concurrent Mode Failure失败,性能反而降低。

  • 最后一个缺点,CMS是基于“标记-清除”算法实现的收集器,使用“标记-清除”算法收集后,会产生大量碎片。空间碎片太多时,将会给对象分配带来很多麻烦,比如说大对象,内存空间找不到连续的空间来分配不得不提前触发一次Full GC。为了解决这个问题,CMS收集器提供了一个-XX:UseCMSCompactAtFullCollection开关参数,用于在Full GC之后增加一个碎片整理过程,还可通过-XX:CMSFullGCBeforeCompaction参数设置执行多少次不压缩的Full GC之后,跟着来一次碎片整理过程。

7.G1收集器 -标记-整理

G1(Garbage First)收集器是JDK1.7提供的一个新收集器,G1收集器基于“标记-整理”算法实现,也就是说不会产生内存碎片。还有一个特点之前的收集器进行收集的范围都是整个新生代或老年代,而G1将整个Java堆(包括新生代,老年代),与其他GC收集器想比,它具有如下特点。

  • 并行与并发

    G1能充分利用多CPU、多核环境下的硬件优势,使用多个CPU来缩短Stop-The-World停顿时间,部分其他收集器原本需要停顿Java线程执行的GC动作,G1收集器仍然可以通过并发的方式让Java程序继续执行。

  • 分代收集

    与其他收集器一样,分代概念在G1中依然得以保留。虽然G1可以不需要其他收集器配合就能独立管理整个GC堆,但它能够采用不同的方式去处理新创建的对象和已经存活了一段时间、熬过多次GC的旧对象以获取更好的收集效果。

  • 空间整合

    G1从整体来看是基于“标记-整理”算法实现的收集器,从局部(两个Region之间)上来看是基于“复制”算法实现的,都意味着运行期间不会产生内存空间碎片,收集后能提供规整的可用内存。

  • 可预测的停顿

    G1除了追求低停顿外,还能建立可预测的停顿时间模型,能让使用者明确指定在一个长度为M毫秒的时间片段内,消耗在垃圾收集上的时间不得超过N毫秒,这几乎已经是实时Java的垃圾收集器的特征了。

G1收集器它将整个Java堆划分为多个大小相等的独立区域(Region),虽然还保留着新生代与老年代的概念,但两者不再是物理隔离,它们都是一部分Region(不需要连续)的集合。

G1收集器之所以能建立可预测的停顿时间模型,是因为他可以有计划地避免在整个Java堆中进行全区域的垃圾收集。G1跟踪各个Region里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许收集时间,优先回收价值最大的Region

当然回收效率提高了,还有一个问题:Region不可能孤立的。一个对象分配在某个Region中,不仅仅是当前Region会引用该对象,还有其他区域中存在引用,那么判定对象是否存活的时候,岂不是还要扫描整个堆空间?

G1收集器中,Region之间的对象引用以及其他收集器中的新生代与老年代之间的对象引用,虚拟机都是使用Remembered Set来避免全堆扫描。G1中每个Region都有一个与之对应的Remembered Set,虚拟机发现程序在对Reference类型的数据进行写操作时,会产生一个Write Barrier暂时中断写操作,检查Reference引用对象是否处于不同的Region之中(在分代的例子中就是检查是否老年代对象引用了新生代中的对象),如果是,便通过CardTable把相关引用信息记录到被引用对象所属的RegionRemembered Set之中。当进行内存回收时,在GC根节点的枚举范围中加入Remembered Set即可保证不对全堆扫描也不会有遗漏。

G1收集器的运作步骤:

  • 初始标记
  • 并发标记
  • 最终标记
  • 筛选回收

摘录自:《深入理解Java虚拟机》