高性能Go语言发行优化 | 青训营笔记

113 阅读7分钟

这是我参与「第三届青训营 -后端场」笔记创作活动的的第4篇笔记

一、 本堂课主要内容

1.1   自动内存管理

1.2   Go内存管理及优化

1.3   编译器和静态分析

1.4   Go语言编译器优化

二、 详细知识点介绍‘

2.1 自动内存管理

       动态内存:程序再运行时根据需求动态分配的内存:malloc();

       自动内存管理(垃圾回收):由程序语言的运行时系统管理动态内存

              避免手动内存管理,专注于实现业务逻辑

              保证内存使用的正确性和安全性

2.1.1相关概念:

Mutator:业务线程,分配新对象,修改对象指向关系

Collector:GC线程,找到存活对象,回收死亡对象的内存空间

Serial GC:只有一个collector

Parallel GC:支持多个collectors同时回收的GC算法

Concurrent GC:mutator(s)和collector(s)可以同时执行

(Collectors必须感知对象指向关系的改变!)

                     评价GC算法

                            安全性:不能回收存活的对象(基本要求)

                            吞吐率:1-GC/程序执行总时间(花在GC上的时间)

                            暂停时间:stop the world (业务是否感知)

                            内存开销:GC元数据开销

              2.1.2追踪垃圾回收

                     对象被回收的条件:指针指向关系不可达的对象

                     标记根对象:静态变量、全局变量、常量、线程栈等

                     标记:找到可达对象

                            求指针指向关系的传递闭包,从根对象出发,找到所有可达对象

                     清理:所有不可达对象

                            将存活对象复制到另外的内存空间

                            将死亡对象的内存标记为“可分配”

                            移动并整理存活对象

                     根据对象的生命周期,使用不同的标记和清理策略

              2.1.3 分代GC

                     每个对象都有年龄:经历过GC的次数

                     目的:针对年轻和老年的对象,制定不同的GC策略,降低内存管理开销

                     不同年龄的对象处在堆的不同区域

                     年轻代

                            常规的内存分配

                            由于存活对象很少,可以使用copying collection

                            GC吞吐率高

                     老年代

                            对象趋向于一直活着,反复复制开销较大

                            可以采用mark-sweep collection

              2.1.4引用计数

                     每个对象都有一个与之关联的引用数目

                     对象存活的条件:当且仅当引用数大于0

                     优点:内存管理操作被平摊到程序执行过程中

                              内存管理不需要了解runtime的实现细节:C++实现细节

                     缺点:维护引用计数的开销较大:通过原子操作保证对引用计数操作的原子性和可见性

                     无法回收环形数据结构一weak reference

内存开销:每个对象都引入的额外内存空间存储引用数目

回收内存时依然可能引发暂停

2.2 Go内存管理及优化

              2.2.1 Go内存分配——分块

目标:为对象在堆上分配内存

提前将内存分块

调用系统调用mmap()向OS申请一大块内存,例如4MB

先将内存划分成大块,例如8KB,称作mspan

再将大块继续划分成特定大小的小块,用于对象分配

noscan mspan:分配不包含指针的对象——GC不需要扫描

scan mspan:分配包含指针的对象——GC需要扫描

对象分配:根据对象的大小,选择最合适的块返回

              2.2.2 Go内存分配——缓存

             

image.png TCMalloc:thread caching

每个p包含一个mcache用于快速分配,用于为绑定于p上的g分配对象

mcache管理一组mspan

当mcache中的mspan分配完毕,向mcentral申请带有未分配块的mspan

当mspan中没有分配的对象,mspan会被缓存在mcentral中,而不是立刻释放并归还OS

       对象分配是非常高频的操作:每秒分配GB级别的内存

小对象占比较高

Go内存分配比较耗时

分配路径长:g>m>p>mcache ->mspan -memory block -return pointer

pprof:对象分配的函数是最频繁调用的函数之一

2.3 Balanced GC

      

image.png 每个g都绑定一大块内存(1KB),称作goroutine allocation buffer(GAB)

GAB用于noscan类型的小对象分配:<128B

使用三个指针维护GAB:base,end,top

Bump pointer(指针碰撞)风格对象分配

无须和其他分配请求互斥

分配动作简单高效

       GAB对于Go管理来说是一个对象

       本质:将多个小对象的分配合并成一次大对象的分配

       问题:GAB的对象分配会导致内存被延迟释放

       方案:移动GAB中存活的对象

              当GAB总大小超过一定阈值时,将GAB中存活的对象复制到另外分配的GAB中

原先的GAB可以释放,避免内存泄漏

本质:用copying GC的算法管理小对象

2.4编译器和静态分析

              2.4.1 编译器的结构

                    

image.png        重要的系统软件

识别符合语法和非法的程序,生成正确且高效的代码

分析部分(前端front end)

词法分析,生成词素(lexeme)

语法分析,生成语法树

语义分析,收集类型信息,进行语义检查

中间代码生成,生成intermediate representation(IR)

综合部分(后端back end)

代码优化,机器无关优化,生成优化后的R

代码生成,生成目标代码

              2.4.2静态分析

静态分析:不执行程序代码,推导程序的行为,分析程序的性质。

控制流(Control flow):程序执行的流程

数据流(Data flow):数据在控制流上的传递

              2.4.3 过程内分析和过程间分析

                    

image.png                     

过程内分析(Intra-procedural analysis)

仅在函数内部进行分析

过程间分析(Inter-procedural analysis)

考虑过程调用时参数传递和返回值的数据流和控制流

为什么过程间分析是个问题?

需要通过数据流分析得知ⅰ的具体类型,才能知道i.foo()调用的是哪个foo()

根据i的具体类型,产生了新的控制流,Afoo0,分析继续

过程间分析需要同时分析控制流和数据流——联合求解,比较复杂

2.5 Go编译器优化

       2.5.1 函数内联

内联:将被调用函数的函数体(callee)的副本替换到调用位置(caller)上,同时重写代码以反映参数的绑定

优点:

消除函数调用开销,例如传递参数、保存寄存器等

将过程间分析转化为过程内分析,帮助其他优化,例如逃逸分析

缺点:

函数体变大,instruction cache(iche)不友好

编译生成的Go镜像变大

              2.5.2 逃逸分析

1.Go函数内联受到的限制较多

语言特性,例如interface,defer等,限制了函数内联

内联策略非常保守

2.Beast mode:

调整函数内联的策略,使更多函数被内联

降低函数调用的开销

增加了其他优化的机会:逃逸分析

开销:

Go镜像增加~10%

编译时间增加

3.逃逸分析

分析代码中指针的动态作用域;指针在何处可以被访问

大致思路:

从对象分配处出发,沿着控制流,观察对象的数据流

若发现指针p在当前作用域s:

作为参数传递给其他函数

传递给全局变量

传递给其他的goroutine

传递给已逃逸的指针指向的对象

则指针p指向的对象逃逸出s,反之则没有逃逸出s

4.Beast mode:函数内联拓展了函数边界,更多对象不逃逸

优化:未逃逸的对象可以在栈上分配

对象在栈上分配和回收很快:移动sp

减少在heap上的分配,降低GC负担

三、 课后个人总结

本节课讲述了从内存管理、编译器优化各方面优化程序性能的方法与思路,具有通用性。

四、 引用参考

1.The Garbage Collection Handbook --the art of automatic memory management

2.plumbr.io/handbook/wh…

3.JP333:ZGC:AScalable Low-Latency Garbage Collector openjdk.java.net/jeps/333

A.数据密集型应用系统设计Designing Data-Intensive Applications:The Big Ideas Behind Reliable,Scalable,and

Maintainable Systems

5.编译原理The Dragon book,Compilers:Principles,Techniques,and Tool

6.编译器设计Engineering a Compiler

7.Principles and Techniques of Compilers silverbullettt.bitbucket.io/courses/com…

8.静态程序分析Static Program Analysis https:/pasca-group.bitbucket.io/teaching.html

9.JVM Anatomy Quark #4:TLAB allocation shipilev.net/jvm/anatomy…

10.Constant folding,en.wikipedia.org/wiki/Consta…

11.Choi,Jong-Deok,et al."Escape analysis for Java."Acm Sigplan Notices 34.10 (1999):1-19.