Go GC策略与实现|青训营笔记

April_
241 阅读5分钟

这是我参与「第三届青训营 -后端场」笔记创作活动的的第4篇笔记。

一、自动内存管理

  1. 概念

    • 动态内存：

      • 程序在运行时根据需求动态分配的内存：malloc()

    • 自动内存管理（垃圾回收，即GC）：

      • 由程序语言的运行时系统管理动态内存
      • 避免手动内存管理，专注于实现业务逻辑
      • 保证内存使用的正确性和安全性：double-free problem，use-after-free problem

    • 三个任务：

      • 为新对象分配空间
      • 找到存活对象
      • 回收死亡对象的内存空间

    • 相关名词：

      • Mutator：业务线程，分配新对象，修改对象指向关系

      • Collector：GC线程，找到存活对象，回收死亡对象的内存空间

      • Serial GC：只有一个collector（GC时需要暂停）

      • Parallel GC：支持多个collectors同时回收的GC算法（GC时需要暂停）

      • Concurrent GC：mutator(s)和collector(s)可以同时执行，因此Collectors必须能感知对象指向关系的改变（GC时不需要暂停）

        image-20220515191306926.png

      • 评价GC算法的指标

        • 安全性（Safety）：不能回收存活的对象（最基本的要求）
        • 吞吐率（Throughput）：1 - GC时间/程序执行总时间 （也就是花在GC上的时间）
        • 暂停时间（Pause time）：stop the world（STW）（在业务过程中能否被感知）
        • 内存开销（Space overhead）（使用GC占用的内存开销）

      • 追踪垃圾回收（Tracing garbage collection）

      • 引用计数（Reference counting）

  2. 追踪垃圾回收

    • 对象被回收的条件：指针指向关系不可达的对象
    • 标记根对象
    • 标记：找到可达对象
    • 清理：所有不可达对象
    • 对象被回收的条件：指针指向关系不可达的对象
    • 标记根对象
      • 静态变量、全局变量、常量、线程栈等
    • 标记：找到可达对象
      • 求指针指向关系的传递闭包：从根对象出发，找到所有可达对象
    • 清理：所有不可达对象（即未被标记的对象）
      • 将存活对象复制到另外的内存空间（Copying GC）（常用于对象较少较小）
      • 将死亡对象的内存标记为可分配（Mark-sweep GC）
      • 移动并整理存活对象（Mark-compact GC）
    • 根据对象的生命周期，使用不同的标记和清理策略

  3. 分代 GC（Generational）

    • 分代假说（Generational hypothesis）：most objects die young
    • Intuition：很多对象在分配出来很快就不再使用了
    • 每个对象都有年龄：经历过GC的次数
    • 目的：对年轻和老年的对象，制定不同的GC策略，降低整体内存管理的开销
    • 不同年龄的对象处于heap的不同区域
    • 年轻化（Young generation）
      • 常规的对象分配
      • 由于存活对象很少，可以采用copying collection
      • GC吞吐率很高
    • 老年代（Old generation）
      • 对象趋向于一直活着，反复复制开销较大
      • 可以采用mark-sweep collection

  4. 引用计数

    • 每个对象都有一个与之关联的引用数目
    • 对象存活的条件：当且仅当引用数大于0（即被其他对象引用）
    • 优点
      • 内存管理的操作被平摊到程序执行过程中
      • 内存管理不需要了解runtime的实现细节：C++智能指针（smart pointer）
    • 缺点
      • 维护引用计数的开销较大：通过原子操作保证对引用计数操作的原子性和可见性
      • 无法回收环形数据结构（每个数据引用次数都为1）——weak reference
      • 内存开销：每个对象都引用的额外内存空间存储引用数目
      • 回收内存时依然可能引发暂停

二、Go内存管理及优化

  1. Go内存分配

    分块：

    • 目标：为对象在heap上分配内存

    • 提前将内存分块

      • 调用系统用mmap()向OS申请一大块内存，例如4MB
      • 先将内存划分成大块，例如8KB，称作mspan
      • 再将大块继续划分成特定大小的小块，用于对象分配
      • noscan mspan：分配不包含指针的对象——GC不需要扫描
      • scan mspan：分配包含指针的对象——GC需要扫描

    • 对象分配：根据对象的大小，选择最合适的块返回

      image-20220515222131544.png

    缓存：

    • TCMalloc：thread caching
    • 每个p包含一个mcache用于快速分配，用于为绑定于p上的g分配对象
    • mcache管理一组mspan
    • 当mcache中的mspan分配完毕，向mcentral申请带有未分配块的mspan
    • 当mspan中没有分配的对象，mspan会被缓存在mcentral中，而不是立刻释放并归还给OS

  2. Go内存管理优化

    • 对象分配是非常高频的操作：每秒分配GB级别的内存
    • 业务中小对象占比较高
    • Go内存分配比较耗时
      • 分配路径长：g -> m -> p -> mcache ->mspan -> memory block -> return pointer
      • pproff分析了解到，对象分配的函数是最频繁调用的函数之一

  3. Balanced GC

    • 每个g都绑定一大块内存（1KB），称作goroutine allocation buffer（GAB）
    • GAB用于noscan类型的小对象分配： < 128 B
    • 使用三个指针维护GAB：base，end，top
    • Bump pointer（指针碰撞）风格对象分配
      • 无须和其他分配请求互斥
      • 分配动作简单高效
    • GAB对于Go内存管理来说是一个大对象
    • 本质：将多个小对象的分配合并成一次大对象的分配
    • 问题：GAB的对象分配方式会导致内存被延迟释放
    • 方案：移动GAB中存活的对象
      • 当GAB总大小超过一定阈值时，将GAB中存活的对象复制到另外分配的GAB中
      • 原先的GAB可以释放，避免内存泄漏
      • 本质：用copying GC 的算法管理小对象（根据对象的生命周期，使用不同的标记和清理策略）

三、编译器和静态分析

  1. 编译器结构

    image-20220515214250033.png

  2. 静态分析

    • 静态分析：不执行程序代码，推导程序的行为，分析程序的性质
    • 控制流（Control flow）：程序执行的流程
    • 数据流（Data flow）：数据在控制流上的传递
    • 通过分析控制流和数据流，我们可以知道更多关于程序的性质

  3. 过程内分析和过程间分析

    • 过程内分析（Intra-procedural analysis）
      • 仅在函数内部进行分析
    • 过程间分析（Inter-procedural analysis）
      • 考虑函数调用时参数传递和返回值的数据流和控制流
avatar
文章
阅读
粉丝