这是我参与「第五届青训营 」伴学笔记创作活动的第 8 天
自动内存管理
背景
- 动态内存:程序在运行时根据需求动态分配的内存--malloc()
- 自动内存管理(垃圾回收):由程序语言的运行时系统管理动态内存
- 避免手动内存管理,专注于实现业务逻辑
- 保证内存使用的正确性和安全性: double-free problem, use-after-free problem
- 三个任务:为新对象分配空间、找到存活对象、回收死亡对象的内存空间
- 相关概念:
- Mutator:业务线程,分配新对象,修改对象指向关系
- Collector:GC线程,找到存活对象,回收死亡对象的内存空间
- Serial GC:会有暂停,只有一个collector
- Parallel GC:会有暂停,支持多个collector同时回收GC
- Cocurrent GC:无显式暂停,mutator(s)和collectors(s)可以同时执行 -- colectors必须感知对象指向关系的改变
- 评价GC算法
- Safety:基本要求,不能回收存活对象
- Throughput:花在GC上的时间
- Pause Time:业务是否感知 STW(stop the world)
- Space overhead:GC元数据开销
两种常见GC技术
- 追踪垃圾回收 Tracing garbage collection
- 被回收的条件:不可达对象
- 过程:
- 标记根对象:静态变量、全局变量、常量、线程栈等
- 标记:找到可达对象:求指针指向关系的传递闭包:从根对象出发,找到所有可达对象
- 清理:所有不可达对象:
- Copying GC:将存活对象复制到另外的内存空间
- Mark-sweep GC:使用free list管理空闲内存,将死亡对象的内存标记为“可分配”
- Mark-compact GC:原地整理对象,移动并整理存活对象
- 根据对象的生命周期,使用不同的标记和清理策略
- Generational GC:分代GC -- 分代假说 :很多对象在分配出来之后很快就不再使用了
- 对象年龄:经历过GC的次数
- 目的:针对年轻和老年的对象,制定不同的GC策略,降低整体内存管理的开销
- 年轻代:由于存活对象很少,可以采用copying collection
- 老年代:对象趋于一致活着,反复复制开销较大,可以采用mark-sweep collection
- 引用计数 Reference counting
- 每个对象都有一个与之关联的引用数目
- 对象存活的条件:当且仅当引用数大于零
- 优点
- 内存管理的操作被平摊到程序运行中:指针传递的过程中进行引用计数的增减
- 不需要了解 runtime 的细节:因为不需要标记 GC roots, 因此不需要知道哪里是全局变量、线程栈等
- 缺点
- 维护开销大,因为对象可能会被多线程访问,对引用计数的修改需要原子操作保证原子性和可见性
- 无法回收环形数据结构
- 内存开销:每个对象都引入额外存储空间存储引用计数
- 虽然引用计数的操作被平摊到程序运行过程中,但是回收大的数据结构依然可能引发暂停
Go 内存管理及优化
- 目标:对象在heap上分配内存
- 提前将内存分块
- 调用系统调用 mmap() 向 OS 申请一大块内存,例如 4 MB
- 先将内存划分成大块,例如 8 KB,称作 mspan
- 再将大块继续划分成特定大小的小块,用于对象分配
- noscan mspan: 分配不包含指针的对象 —— GC 不需要扫描
- scan mspan: 分配包含指针的对象 —— GC 需要扫描
- 对象分配:根据对象的大小,选择最合适的块返回
- 缓存:TCMalloc:thread caching
- Go 内存管理构成了多级缓存机制,从 OS 分配得的内存被内存管理回收后,也不会立刻归还给 OS,而是在 Go runtime 内部先缓存起来,从而避免频繁向 OS 申请内存。
- mspan -> mcache -> mcentral -> mheap -> virtual memory
Go 内存管理的问题
mspan, mcache 和 mcentral 构成了内存管理的多级缓存机制。
- 对象分配是非常高频的操作:每秒分配 GB 级别的内存
- Go 内存分配比较耗时(分配路径长,pprof)
- 小对象分配占大多数
具体方案:Balanced GC
- 核心:将 noscan 对象在 per-goroutine allocation buffer (GAB) 上分配,并使用移动对象 GC 管理这部分内存,提高对象分配和回收效率
- 每个goroutine都绑定一大块内存(1KB)称作goroutine allocation buffer (GAB) -- 对于Go内存管理来说是一个大对象
- 使用三个指针维护 GAB:base,end,top
- Bunp pointer(指针碰撞)风格对象分配:无需和其他分配请求互斥、简单高效
- 本质:将多个小对象的分配合并成一次大对象的分配
- 问题:GAB的对象分配方式导致内存被延迟是否 -- 方案:
- 当GAB总大小超过一定阈值时,将GAB中存活的对象复制到另外分配的GAB中,原先GAB可以释放避免内存泄漏
- 本质:用copying GC的算法管理小对象
Go 编译器优化
函数内联
- 内联:将被调用函数的函数体(callee)的副本替换到调用位置(caller)上,同时重写代码以反映参数的绑定
- 优点
- 消除调用开销
- 将过程间分析的问题转换为过程内分析,帮助其他分析
- 缺点
- 函数体变大,instruction cache不友好
- 编译生成的 Go 镜像文件变大
- 函数内联在大多数情况下是正向优化,即多内联,会提升性能
- 采取一定的策略决定是否内联:调用和被调用函数的规模
- Go 内联的限制
- 语言特性:interface, defer 等等,限制了内联优化
- 内联策略非常保守
- 优化方案:调整函数内联的策略,使更多函数被内联
- 修改了内联策略,让更多函数被内联
- 增加了其他优化的机会:逃逸分析
- 开销
- Go 镜像大小略有增加
- 编译时间增加
- 运行时栈扩展开销增加
逃逸分析
- 逃逸分析:分析代码中指针的动态作用域:指针在何处可以被访问
- 大致思路
- 从对象分配处出发,沿着控制流,观察数据流。若发现指针 p 在当前作用域 s:
- 作为参数传递给其他函数;
- 传递给全局变量;
- 传递给其他的 goroutine;
- 传递给已逃逸的指针指向的对象;
- 则指针 p 逃逸出 s,反之则没有逃逸出 s.
- 从对象分配处出发,沿着控制流,观察数据流。若发现指针 p 在当前作用域 s:
- 优化:未逃逸出当前函数的指针指向的对象可以在栈上分配
- 对象在栈上分配和回收很快:移动 sp 即可完成内存的分配和回收;
- 减少在堆上分配对象,降低 GC 负担。