这是我参与「第三届青训营 -后端场」笔记创作活动的的第4篇笔记
一、 本堂课主要内容
1.1 自动内存管理
1.2 Go内存管理及优化
1.3 编译器和静态分析
1.4 Go语言编译器优化
二、 详细知识点介绍‘
2.1 自动内存管理
动态内存:程序再运行时根据需求动态分配的内存:malloc();
自动内存管理(垃圾回收):由程序语言的运行时系统管理动态内存
避免手动内存管理,专注于实现业务逻辑
保证内存使用的正确性和安全性
2.1.1相关概念:
Mutator:业务线程,分配新对象,修改对象指向关系
Collector:GC线程,找到存活对象,回收死亡对象的内存空间
Serial GC:只有一个collector
Parallel GC:支持多个collectors同时回收的GC算法
Concurrent GC:mutator(s)和collector(s)可以同时执行
(Collectors必须感知对象指向关系的改变!)
评价GC算法:
安全性:不能回收存活的对象(基本要求)
吞吐率:1-GC/程序执行总时间(花在GC上的时间)
暂停时间:stop the world (业务是否感知)
内存开销:GC元数据开销
2.1.2追踪垃圾回收
对象被回收的条件:指针指向关系不可达的对象
标记根对象:静态变量、全局变量、常量、线程栈等
标记:找到可达对象
求指针指向关系的传递闭包,从根对象出发,找到所有可达对象
清理:所有不可达对象
将存活对象复制到另外的内存空间
将死亡对象的内存标记为“可分配”
移动并整理存活对象
根据对象的生命周期,使用不同的标记和清理策略
2.1.3 分代GC
每个对象都有年龄:经历过GC的次数
目的:针对年轻和老年的对象,制定不同的GC策略,降低内存管理开销
不同年龄的对象处在堆的不同区域
年轻代:
常规的内存分配
由于存活对象很少,可以使用copying collection
GC吞吐率高
老年代:
对象趋向于一直活着,反复复制开销较大
可以采用mark-sweep collection
2.1.4引用计数
每个对象都有一个与之关联的引用数目
对象存活的条件:当且仅当引用数大于0
优点:内存管理操作被平摊到程序执行过程中
内存管理不需要了解runtime的实现细节:C++实现细节
缺点:维护引用计数的开销较大:通过原子操作保证对引用计数操作的原子性和可见性
无法回收环形数据结构一weak reference
内存开销:每个对象都引入的额外内存空间存储引用数目
回收内存时依然可能引发暂停
2.2 Go内存管理及优化
2.2.1 Go内存分配——分块
目标:为对象在堆上分配内存
提前将内存分块
调用系统调用mmap()向OS申请一大块内存,例如4MB
先将内存划分成大块,例如8KB,称作mspan
再将大块继续划分成特定大小的小块,用于对象分配
noscan mspan:分配不包含指针的对象——GC不需要扫描
scan mspan:分配包含指针的对象——GC需要扫描
对象分配:根据对象的大小,选择最合适的块返回
2.2.2 Go内存分配——缓存
TCMalloc:thread caching
每个p包含一个mcache用于快速分配,用于为绑定于p上的g分配对象
mcache管理一组mspan
当mcache中的mspan分配完毕,向mcentral申请带有未分配块的mspan
当mspan中没有分配的对象,mspan会被缓存在mcentral中,而不是立刻释放并归还OS
对象分配是非常高频的操作:每秒分配GB级别的内存
小对象占比较高
Go内存分配比较耗时
分配路径长:g>m>p>mcache ->mspan -memory block -return pointer
pprof:对象分配的函数是最频繁调用的函数之一
2.3 Balanced GC
每个g都绑定一大块内存(1KB),称作goroutine allocation buffer(GAB)
GAB用于noscan类型的小对象分配:<128B
使用三个指针维护GAB:base,end,top
Bump pointer(指针碰撞)风格对象分配
无须和其他分配请求互斥
分配动作简单高效
GAB对于Go管理来说是一个对象
本质:将多个小对象的分配合并成一次大对象的分配
问题:GAB的对象分配会导致内存被延迟释放
方案:移动GAB中存活的对象
当GAB总大小超过一定阈值时,将GAB中存活的对象复制到另外分配的GAB中
原先的GAB可以释放,避免内存泄漏
本质:用copying GC的算法管理小对象
2.4编译器和静态分析
2.4.1 编译器的结构
重要的系统软件
识别符合语法和非法的程序,生成正确且高效的代码
分析部分(前端front end)
词法分析,生成词素(lexeme)
语法分析,生成语法树
语义分析,收集类型信息,进行语义检查
中间代码生成,生成intermediate representation(IR)
综合部分(后端back end)
代码优化,机器无关优化,生成优化后的R
代码生成,生成目标代码
2.4.2静态分析
静态分析:不执行程序代码,推导程序的行为,分析程序的性质。
控制流(Control flow):程序执行的流程
数据流(Data flow):数据在控制流上的传递
2.4.3 过程内分析和过程间分析
过程内分析(Intra-procedural analysis)
仅在函数内部进行分析
过程间分析(Inter-procedural analysis)
考虑过程调用时参数传递和返回值的数据流和控制流
为什么过程间分析是个问题?
需要通过数据流分析得知ⅰ的具体类型,才能知道i.foo()调用的是哪个foo()
根据i的具体类型,产生了新的控制流,Afoo0,分析继续
过程间分析需要同时分析控制流和数据流——联合求解,比较复杂
2.5 Go编译器优化
2.5.1 函数内联
内联:将被调用函数的函数体(callee)的副本替换到调用位置(caller)上,同时重写代码以反映参数的绑定
优点:
消除函数调用开销,例如传递参数、保存寄存器等
将过程间分析转化为过程内分析,帮助其他优化,例如逃逸分析
缺点:
函数体变大,instruction cache(iche)不友好
编译生成的Go镜像变大
2.5.2 逃逸分析
1.Go函数内联受到的限制较多
语言特性,例如interface,defer等,限制了函数内联
内联策略非常保守
2.Beast mode:
调整函数内联的策略,使更多函数被内联
降低函数调用的开销
增加了其他优化的机会:逃逸分析
开销:
Go镜像增加~10%
编译时间增加
3.逃逸分析:
分析代码中指针的动态作用域;指针在何处可以被访问
大致思路:
从对象分配处出发,沿着控制流,观察对象的数据流
若发现指针p在当前作用域s:
作为参数传递给其他函数
传递给全局变量
传递给其他的goroutine
传递给已逃逸的指针指向的对象
则指针p指向的对象逃逸出s,反之则没有逃逸出s
4.Beast mode:函数内联拓展了函数边界,更多对象不逃逸
优化:未逃逸的对象可以在栈上分配
对象在栈上分配和回收很快:移动sp
减少在heap上的分配,降低GC负担
三、 课后个人总结
本节课讲述了从内存管理、编译器优化各方面优化程序性能的方法与思路,具有通用性。
四、 引用参考
1.The Garbage Collection Handbook --the art of automatic memory management
3.JP333:ZGC:AScalable Low-Latency Garbage Collector openjdk.java.net/jeps/333
A.数据密集型应用系统设计Designing Data-Intensive Applications:The Big Ideas Behind Reliable,Scalable,and
Maintainable Systems
5.编译原理The Dragon book,Compilers:Principles,Techniques,and Tool
6.编译器设计Engineering a Compiler
7.Principles and Techniques of Compilers silverbullettt.bitbucket.io/courses/com…
8.静态程序分析Static Program Analysis https:/pasca-group.bitbucket.io/teaching.html
9.JVM Anatomy Quark #4:TLAB allocation shipilev.net/jvm/anatomy…
10.Constant folding,en.wikipedia.org/wiki/Consta…
11.Choi,Jong-Deok,et al."Escape analysis for Java."Acm Sigplan Notices 34.10 (1999):1-19.