这是我参与「第五届青训营 」伴学笔记创作活动的第 5 天
Day05——性能优化及自动内存管理
01.自动内存管理
管理的是动态内存,也就是程序根据需求动态分配的内存,比如C语言中的malloc()
自动内存管理可以让程序员专注于开发,保证程序的正确性和安全性
主要有3个任务
- 为新对象分配空间
- 找到存活对象
- 回收死亡对象的内存空间
相关概念
Mutator:业务线程,分配新对象,修改对象指向关系
Collector: GC 线程,找到存活对象,回收死亡对象的内存空间
Serial GC:只有一个collector,执行collector时会暂停mutator,执行完后,继续mutator执行
Parallel GC:支持多个collectors同时回收的GC算法,会多个collector同时执行
Concurrent GC: mutator(s)和collector(s)可以同时执行,但是必须时刻改制对象指向关系的改变,防止意外回收一些还在存活的对象
如何评价GC算法,可以从以下方面:
- 安全性(Safety):不能回收存活的对象基本要求
- 吞吐率:1-花在GC的时间/程序执行总时间(即花在GC上的时间越少越好)
- 暂停时间:业务是否感知
- 内存开销:GC所用的额外的内存
追踪垃圾回收
对象被回收的条件:指针指向关系不可达的对象
具体操作:
首先标记根对象:静态变量、全局变量、常量、线程栈等
标记:找到可达对象,求指针指向关系的传递闭包:从根对象出发,找到所有可达对象
清理:所有不可达对象,即图中白色虚线
根据对象的生命周期,使用不同的标记和清理策略
分代GC(Generational GC)
每个对象都有年龄:经历过GC的次数
按对象的年龄对对象进行分类,处于不同的Heap区域,指定不同的GC策略来降低内存管理的开销
年轻代:
常规的对象分配,由于存活对象很少,可以采用copying collection,GC吞吐率很高
老年代:
对象趋于一直活着,反复复制开销很大
可以采用mark-sweep collection
引用计数
每个对象都有一个与之关联的引用数目
对象存活的条件:当且仅当引用数大于0
优点:
内存管理的操作被平摊到程序执行过程中
不需要了解实现细节
缺点:
-
维护开销大,通过原子操作保证对引用计数操作的原子性和可见性
-
无法回收环形结构
-
内存开销:每个对象都要引入额外的内存空间存储引用数目
-
回收内存时还是会引发暂停
02.GO内存管理及优化
1.Go内存分配——分块
为对象在heap上分配内存:
调用系统调用mmap(向OS申请一大块内存,例如4 MB
先将内存划分成大块,例如8 KB,称作mspan
再将大块继续划分成特定大小的小块,用于对象分配
第一种类型:noscan mspan:分配不包含指针的对象———GC不需第二种类型:要扫播scan mspan:分配包含指针的对象——GC需要扫描
2.Go内存分配——缓存
通过多级缓存来加快速度
TCMalloc: thread caching
每个p包含一个mcache 用于快速分配,用于为绑定于p上的g分配对象
mcache管理一组mspan
当mcache中的 mspan 分配完毕,向mcentral 申请带有未分配块的mspan
当mspan中没有分配的对象,mspan 会被缓存在mcentral中,而不是立刻释放并归还给OS
对象分配是高频操作,每秒GB级别
小对象占比较高
Go分配内存耗时较长,分配路径较长
优化方案
每个g都绑定一大块内存(1 KB),称作GAB用于noscan类型的小对象分配:<128 B
使用三个指针维护 GAB: base, end,top
Bump pointer(指针碰撞)风格对象分配
优点:
- 无须和其他分配请求互斥
- 分配动作简单高效
GAB对于Go的内存管理就相当于一个大对象,本质上是将多个小对象的分配合并成一次大对象的分配
但是缺点就是,如果一个GAB中有一个对象存活就会使GAB存活,导致其他空间延迟释放
解决方案:方案:移动GAB中存活的对象
当GAB总大小超过一定阈值时,将GAB中存活的对象复制到另外分配的GAB中,原先的GAB可以释放,避免内存泄漏
本质:用copying GC的算法管理小对象
03.编译器和静态分析
编译器:识别符合语法和非法的程序并生成正确且高效的代码
静态分析:不执行程序代码,推导程序的行为,分析程序的性质。
控制流 : 程序执行的流程,类似流程图分析
数据流 : 数据在控制流上的传递
过程内分析:仅在函数内部进行分析
过程间分析:考虑函数调用时参数传递和返回值的数据流和控制流
过程间分析要具体做数据流分析和控制流分析,比较复杂
04.Go编译器优化
编译器优化:用户无感知,重新编译即可获得性能收益并且是通用性优化
采用的优化少,编译时间较短,没有进行较复杂的代码分析和优化
场景:面向后端长期执行任务,用编译时间换取更高效的机器码
函数内联:
内联:将被调用函数的函数体的副本替换到调用位置上,同时重写代码以反映参数的绑定
优点:消除函数调用开销,例如传递参数、保存寄存器等。将过程间分析转化为过程内分析。帮助其他优化。例如逃逸分析
缺点:函数体变大,编译生成的镜像变大
但是不能无休止内联,要根据优化策略适当进行函数内联
Beast Mode
Go函数内联受到的限制较多,语言特性,例如interface, defer等,限制了函数,内联内联策略非常保守
Beast mode了调整函数内联的策略,使更多函数被内联,降低函数调用的开销,增加了其他优化的机会:逃逸分析
逃逸分析
逃逸分析:分析代码中指针的动态作用域:指针在何处可以被访问
大致思路:
从对象分配处出发,沿着控制流,观察对象的数据流·若发现指针p在当前作用域s
- 作为参数传递给其他函数
- 传递给全局变量
- 传递给其他的goroutine
- 传递给已逃逸的指针指向的对象
则指针p指向的对象逃逸出s,反之则没有逃逸出s
优化:
未逃逸的对象可以在栈上分配,对象在栈上分配和回收很快:移动sp减少在heap上的分配,降低GC负担
多内联几层,使原本可能要逃逸的不逃逸了,内联在函数里