GC 设计与停顿

1. 写在前面


“[JVM 解剖公园][1]”是一个持续更新的系列迷你博客,阅读每篇文章一般需要5到10分钟。限于篇幅,仅对某个主题按照问题、测试、基准程序、观察结果深入讲解。因此,这里的数据和讨论可以当轶事看,不做写作风格、句法和语义错误、重复或一致性检查。如果选择采信文中内容,风险自负。


Aleksey Shipilёv,JVM 性能极客 

推特 [@shipilev][2]  

问题、评论、建议发送到 [[email protected]][3]


[1]:https://shipilev.net/jvm-anatomy-park

[2]:http://twitter.com/shipilev

[3]:[email protected]


 2. 问题


如果说垃圾回收是敌人,那么绝不能害怕,因为恐惧会让人逐步死去直至彻底消亡。等等,这里究竟要讨论什么问题?好吧,这里要讨论的是,“在 `ArrayList` 中分配1亿个对象会让 Java ‘打嗝’“ 是真的吗?


 3. 全貌图


可以简单地把性能问题归罪于通用 GC,而真正的问题是对于实际工作负载 GC 的表现没有达到预期。很多时候是工作负载本身有问题,其他情况则是使用了不匹配的 GC。请注意大多数回收器在其 GC 周期中是如何停顿的。


4. 实验


对于“向 `ArrayList` 加入1亿个对象”这个实验,虽然不切实际且略显搞笑,但在还是可以运行一下看看效果。下面是实验代码:


```java
import java.util.*;

public class AL {
   static List<Object> l;
   public static void main(String... args) {
       l = new ArrayList<>();
       for (int c = 0; c < 100_000_000; c++) {
           l.add(new Object());
       }
   }
}
```


下面是来自奶牛的评论:


```shell
$ cowsay ...
________________________________________
/ 顺便说一下,这是一个糟糕的 GC 基准测试       \
| 即使我是一头奶牛,也能清楚地知道             |
\ 这一点。                                 /
----------------------------------------
       \   ^__^
        \  (oo)\_______
           (__)\       )\/\
               ||----w |
               ||     ||
```


尽管如此,即使一个糟糕的基准测试,只要仔细分析还是可以从运行结果中了解一些测试系统的有用信息。事实证明,在 OpenJDK 中选择不同的回收器及其对应的 GC 设计,在这样的负载下运行更能凸显彼此之间的差异。


下面使用 JDK 9 + Shenandoah 垃圾回收器享受 GC 所有最新改进。在配置较低的 1.7 GHz i5 超极本运行 Linux x86_64 进行测试。要分配1亿个16字节大小的对象,这里 heap 设为静态 4GB 以消除不同回收器之间的自由度差异。


4.1 G1(JDK9 默认 GC)


```shell
$ time java -Xms4G -Xmx4G -Xlog:gc AL
[0.030s][info][gc] Using G1
[1.525s][info][gc] GC(0) Pause Young (G1 Evacuation Pause) 370M->367M(4096M) 991.610ms
[2.808s][info][gc] GC(1) Pause Young (G1 Evacuation Pause) 745M->747M(4096M) 928.510ms
[3.918s][info][gc] GC(2) Pause Young (G1 Evacuation Pause) 1105M->1107M(4096M) 764.967ms
[5.061s][info][gc] GC(3) Pause Young (G1 Evacuation Pause) 1553M->1555M(4096M) 601.680ms
[5.835s][info][gc] GC(4) Pause Young (G1 Evacuation Pause) 1733M->1735M(4096M) 465.216ms
[6.459s][info][gc] GC(5) Pause Initial Mark (G1 Humongous Allocation) 1894M->1897M(4096M) 398.453ms
[6.459s][info][gc] GC(6) Concurrent Cycle
[7.790s][info][gc] GC(7) Pause Young (G1 Evacuation Pause) 2477M->2478M(4096M) 472.079ms
[8.524s][info][gc] GC(8) Pause Young (G1 Evacuation Pause) 2656M->2659M(4096M) 434.435ms
[11.104s][info][gc] GC(6) Pause Remark 2761M->2761M(4096M) 1.020ms
[11.979s][info][gc] GC(6) Pause Cleanup 2761M->2215M(4096M) 2.446ms
[11.988s][info][gc] GC(6) Concurrent Cycle 5529.427ms

real  0m12.016s
user  0m34.588s
sys   0m0.964s
```


从 G1 运行结果中能观察到什么?年轻代的停顿时间从500至1000毫秒不等。到达稳定状态后停顿开始减少,启发式方法给出了结束停顿需回收多少内存。一段时间后,会进入并发 GC 阶段直到结束(请注意年轻代与并发阶段重叠)。接下来应该还有“混合停顿”,但是 VM 已经提前退出。这些不确定的停顿是运行时间过长的罪魁祸首。


另外,可以注意到“user”时间比“real”(时钟时间)要长。由于 GC 并行执行,而应用程序是单线程执行,因此 GC 会利用所有可用的并行机制从而让收集时间变得比时钟时间短。


4.2 Parallel


```shell
$ time java -XX:+UseParallelOldGC -Xms4G -Xmx4G -Xlog:gc AL
[0.023s][info][gc] Using Parallel
[1.579s][info][gc] GC(0) Pause Young (Allocation Failure) 878M->714M(3925M) 1144.518ms
[3.619s][info][gc] GC(1) Pause Young (Allocation Failure) 1738M->1442M(3925M) 1739.009ms

real  0m3.882s
user  0m11.032s
sys   0m1.516s
```


从 Parallel 结果中,可以看到类似的年轻代停顿。原因可能是调整 Eden 区或 Survivor 区的大小以容纳更多临时分配的内存。这里有两次长停顿,完成任务总用时很短。当处于稳定状态,回收器会保持相同频率的长停顿。“user”时间同样远大于“real”时间,并发隐藏了一些 GC 开销。


4.3 CMS(并发标记-清扫)


```shell
$ time java -XX:+UseConcMarkSweepGC -Xms4G -Xmx4G -Xlog:gc AL
[0.012s][info][gc] Using Concurrent Mark Sweep
[1.984s][info][gc] GC(0) Pause Young (Allocation Failure) 259M->231M(4062M) 1788.983ms
[2.938s][info][gc] GC(1) Pause Young (Allocation Failure) 497M->511M(4062M) 871.435ms
[3.970s][info][gc] GC(2) Pause Young (Allocation Failure) 777M->850M(4062M) 949.590ms
[4.779s][info][gc] GC(3) Pause Young (Allocation Failure) 1117M->1161M(4062M) 732.888ms
[6.604s][info][gc] GC(4) Pause Young (Allocation Failure) 1694M->1964M(4062M) 1662.255ms
[6.619s][info][gc] GC(5) Pause Initial Mark 1969M->1969M(4062M) 14.831ms
[6.619s][info][gc] GC(5) Concurrent Mark
[8.373s][info][gc] GC(6) Pause Young (Allocation Failure) 2230M->2365M(4062M) 1656.866ms
[10.397s][info][gc] GC(7) Pause Young (Allocation Failure) 3032M->3167M(4062M) 1761.868ms
[16.323s][info][gc] GC(5) Concurrent Mark 9704.075ms
[16.323s][info][gc] GC(5) Concurrent Preclean
[16.365s][info][gc] GC(5) Concurrent Preclean 41.998ms
[16.365s][info][gc] GC(5) Concurrent Abortable Preclean
[16.365s][info][gc] GC(5) Concurrent Abortable Preclean 0.022ms
[16.478s][info][gc] GC(5) Pause Remark 3390M->3390M(4062M) 113.598ms
[16.479s][info][gc] GC(5) Concurrent Sweep
[17.696s][info][gc] GC(5) Concurrent Sweep 1217.415ms
[17.696s][info][gc] GC(5) Concurrent Reset
[17.701s][info][gc] GC(5) Concurrent Reset 5.439ms

real  0m17.719s
user  0m45.692s
sys   0m0.588s
```


与一般看法相反,CMS 中的 “Concurrent”指年老代并发回收。正如结果中看到的,年轻代还是处于万物静止状态。GC 日志看起来与 G1 类似:年轻代暂停,循环进行并发收集。区别在于,与 G1 “混合停顿”相比,“并发清扫”可以不间断清扫不会造成应用停止。年轻代 GC 停顿时间越长影响了任务的执行性能。


4.4 Shenandoah


```shell
$ time java -XX:+UseShenandoahGC -Xms4G -Xmx4G -Xlog:gc AL
[0.026s][info][gc] Using Shenandoah
[0.808s][info][gc] GC(0) Pause Init Mark 0.839ms
[1.883s][info][gc] GC(0) Concurrent marking 2076M->3326M(4096M) 1074.924ms
[1.893s][info][gc] GC(0) Pause Final Mark 3326M->2784M(4096M) 10.240ms
[1.894s][info][gc] GC(0) Concurrent evacuation  2786M->2792M(4096M) 0.759ms
[1.894s][info][gc] GC(0) Concurrent reset bitmaps 0.153ms
[1.895s][info][gc] GC(1) Pause Init Mark 0.920ms
[1.998s][info][gc] Cancelling concurrent GC: Stopping VM
[2.000s][info][gc] GC(1) Concurrent marking 2794M->2982M(4096M) 104.697ms

real  0m2.021s
user  0m5.172s
sys   0m0.420s
```


[Shenandoah][4] 回收器中没有年轻代,至少今天如此。也有一些不引入分代进行部分回收的设想,但几乎不可能避免万物静止的情况。并发 GC 与应用同步启动,初始化标记和结束并发标记引发了两次小停顿。因为所有内容都处于活跃状态没有碎片化,所以并发拷贝不会引发停顿。第二次 GC 由于 VM 关闭过早结束了。由于没有其它回收器那样的长停顿,任务很快执行结束。


[4]:https://wiki.openjdk.java.net/display/shenandoah/Main


4.5 Epsilon


```shell
$ time java -XX:+UnlockExperimentalVMOptions -XX:+UseEpsilonGC -Xms4G -Xmx4G  -Xlog:gc AL
[0.031s][info][gc] Initialized with 4096M non-resizable heap.
[0.031s][info][gc] Using Epsilon GC
[1.361s][info][gc] Total allocated: 2834042 KB.
[1.361s][info][gc] Average allocation rate: 2081990 KB/sec

real  0m1.415s
user  0m1.240s
sys   0m0.304s
```


使用实验性“no-op” [Epsilon GC][5] 不会运行任何回收器,有助于评估 GC 开销。 我们可以准确地放入预先设定好的 4GB 堆,应用运行过程中没有任何停顿。不过,发生任何突然的变化都导致程序结束。注意,“real”和“user” + “sys”的时间几乎相等,这证实了应用只有一个线程。


*译注:Epsilon GC 处理内存分配,但不实现任何实际的内存回收机制。一旦可用的Java堆耗尽,JVM就会关闭。*


[5]:http://openjdk.java.net/jeps/318


5. 观察


不同的 GC 实现有着各自的设计权衡,取消 GC 可看作一种延伸的“坏主意”。通过了解工作负载、性能要求以及可用的 GC 实现,才能根据实际情况选择合适的回收器。即使选择不使用 GC 的目标平台,仍然需要知道并选择本机内存分配器。当运行实验负载时,请试着理解运行结果并从中学习。祝你好运!



猜你喜欢

转载自blog.51cto.com/15082395/2590373
今日推荐