Go 语言内存管理详解 | 青训营笔记

76 阅读6分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 8 天

自动内存管理

背景

  • 动态内存:程序在运行时根据需求动态分配的内存--malloc()
  • 自动内存管理(垃圾回收):由程序语言的运行时系统管理动态内存
    • 避免手动内存管理,专注于实现业务逻辑
    • 保证内存使用的正确性和安全性: double-free problem, use-after-free problem
  • 三个任务:为新对象分配空间、找到存活对象、回收死亡对象的内存空间
  • 相关概念:
    • Mutator:业务线程,分配新对象,修改对象指向关系
    • Collector:GC线程,找到存活对象,回收死亡对象的内存空间
    • Serial GC:会有暂停,只有一个collector
    • Parallel GC:会有暂停,支持多个collector同时回收GC
    • Cocurrent GC:无显式暂停,mutator(s)和collectors(s)可以同时执行 -- colectors必须感知对象指向关系的改变
  • 评价GC算法
    • Safety:基本要求,不能回收存活对象
    • Throughput:花在GC上的时间
    • Pause Time:业务是否感知 STW(stop the world)
    • Space overhead:GC元数据开销

两种常见GC技术

  1. 追踪垃圾回收 Tracing garbage collection
  • 被回收的条件:不可达对象
  • 过程:
    • 标记根对象:静态变量、全局变量、常量、线程栈等
    • 标记:找到可达对象:求指针指向关系的传递闭包:从根对象出发,找到所有可达对象
    • 清理:所有不可达对象:
      1. Copying GC:将存活对象复制到另外的内存空间
      2. Mark-sweep GC:使用free list管理空闲内存,将死亡对象的内存标记为“可分配”
      3. Mark-compact GC:原地整理对象,移动并整理存活对象
  • 根据对象的生命周期,使用不同的标记和清理策略
    • Generational GC:分代GC -- 分代假说 :很多对象在分配出来之后很快就不再使用了
    • 对象年龄:经历过GC的次数
    • 目的:针对年轻和老年的对象,制定不同的GC策略,降低整体内存管理的开销
    • 年轻代:由于存活对象很少,可以采用copying collection
    • 老年代:对象趋于一致活着,反复复制开销较大,可以采用mark-sweep collection
  1. 引用计数 Reference counting
  • 每个对象都有一个与之关联的引用数目
  • 对象存活的条件:当且仅当引用数大于零
  • 优点
    • 内存管理的操作被平摊到程序运行中:指针传递的过程中进行引用计数的增减
    • 不需要了解 runtime 的细节:因为不需要标记 GC roots, 因此不需要知道哪里是全局变量、线程栈等
  • 缺点
    • 维护开销大,因为对象可能会被多线程访问,对引用计数的修改需要原子操作保证原子性和可见性
    • 无法回收环形数据结构
    • 内存开销:每个对象都引入额外存储空间存储引用计数
    • 虽然引用计数的操作被平摊到程序运行过程中,但是回收大的数据结构依然可能引发暂停

Go 内存管理及优化

  • 目标:对象在heap上分配内存
  • 提前将内存分块
    • 调用系统调用 mmap() 向 OS 申请一大块内存,例如 4 MB
    • 先将内存划分成大块,例如 8 KB,称作 mspan
    • 再将大块继续划分成特定大小的小块,用于对象分配
    • noscan mspan: 分配不包含指针的对象 —— GC 不需要扫描
    • scan mspan: 分配包含指针的对象 —— GC 需要扫描
  • 对象分配:根据对象的大小,选择最合适的块返回
  • 缓存:TCMalloc:thread caching
    • Go 内存管理构成了多级缓存机制,从 OS 分配得的内存被内存管理回收后,也不会立刻归还给 OS,而是在 Go runtime 内部先缓存起来,从而避免频繁向 OS 申请内存。
    • mspan -> mcache -> mcentral -> mheap -> virtual memory

Go 内存管理的问题

mspan, mcache 和 mcentral 构成了内存管理的多级缓存机制。

  • 对象分配是非常高频的操作:每秒分配 GB 级别的内存
  • Go 内存分配比较耗时(分配路径长,pprof)
  • 小对象分配占大多数

具体方案:Balanced GC

  • 核心:将 noscan 对象在 per-goroutine allocation buffer (GAB) 上分配,并使用移动对象 GC 管理这部分内存,提高对象分配和回收效率
  • 每个goroutine都绑定一大块内存(1KB)称作goroutine allocation buffer (GAB) -- 对于Go内存管理来说是一个大对象
  • 使用三个指针维护 GAB:base,end,top
  • Bunp pointer(指针碰撞)风格对象分配:无需和其他分配请求互斥、简单高效
  • 本质:将多个小对象的分配合并成一次大对象的分配
  • 问题:GAB的对象分配方式导致内存被延迟是否 -- 方案:
    • 当GAB总大小超过一定阈值时,将GAB中存活的对象复制到另外分配的GAB中,原先GAB可以释放避免内存泄漏
    • 本质:用copying GC的算法管理小对象

Go 编译器优化

函数内联

  • 内联:将被调用函数的函数体(callee)的副本替换到调用位置(caller)上,同时重写代码以反映参数的绑定
  • 优点
    • 消除调用开销
    • 将过程间分析的问题转换为过程内分析,帮助其他分析
  • 缺点
    • 函数体变大,instruction cache不友好
    • 编译生成的 Go 镜像文件变大
  • 函数内联在大多数情况下是正向优化,即多内联,会提升性能
  • 采取一定的策略决定是否内联:调用和被调用函数的规模
  • Go 内联的限制
    • 语言特性:interface, defer 等等,限制了内联优化
    • 内联策略非常保守
  • 优化方案:调整函数内联的策略,使更多函数被内联
    • 修改了内联策略,让更多函数被内联
    • 增加了其他优化的机会:逃逸分析
  • 开销
    • Go 镜像大小略有增加
    • 编译时间增加
    • 运行时栈扩展开销增加

逃逸分析

  • 逃逸分析:分析代码中指针的动态作用域:指针在何处可以被访问
  • 大致思路
    • 从对象分配处出发,沿着控制流,观察数据流。若发现指针 p 在当前作用域 s:
      • 作为参数传递给其他函数;
      • 传递给全局变量;
      • 传递给其他的 goroutine;
      • 传递给已逃逸的指针指向的对象;
    • 则指针 p 逃逸出 s,反之则没有逃逸出 s.
  • 优化:未逃逸出当前函数的指针指向的对象可以在栈上分配
    • 对象在栈上分配和回收很快:移动 sp 即可完成内存的分配和回收;
    • 减少在堆上分配对象,降低 GC 负担。