高性能 Go 语言发行版优化与落地实践 ｜ 青训营

夹心没有饼干
74 阅读7分钟

1. 自动内存管理

1.1 相关概念

所谓自动内存管理，其实就是指垃圾回收，在 Go 中，程序在运行时根据需求动态分配的内存（即动态内存）会被纳入自动内存管理的范畴。

  • 避免手动释放内存，将注意力专注在业务逻辑
  • 避免发生内存安全问题：内存重复释放问题 double-free problem、内存释放后使用问题 use-after-free problem

一个垃圾回收周期大致有三个任务：

  1. 为新对象分配空间
  2. 找到存活对象
  3. 回收死亡对象的内存空间。

垃圾回收相关概念：

  • Mutator：业务线程，分配新对象，修改对象指向关系；

  • Collector：GC 线程，找到存活对象，回收死亡对象的内存空间；

image-20230821160324447.png

  • Serial GC（串行 GC）：只有一个 collector；

image-20230821160313091.png

  • Parallel GC（并行 GC）：支持多个 collectors 同时回收的 GC 算法；

image-20230821160335987.png

  • Concurrent GC（并发 GC）：mutator(s) 和 collector(s) 可以同时执行。

image-20230821160349861.png

Collectors 必须感知对象指向关系的改变：

image-20230821160447838.png

评价一个 GC 算法：

  • 安全性（Safety）：指垃圾回收器不应回收存活的对象；（基本要求）

  • 吞吐率（Throughput）：越大越好

image-20230821160522359.png

  • 暂停时间（Pause time）：指 GC 导致业务线程挂起（暂停）的时间（stop the world，STW）

  • 内存开销（Space overhead）：GC 元数据占用的内存开销；

1.2 追踪垃圾回收

追踪垃圾回收（Tracing Garge Collection）是一种最常见的垃圾回收方式，也是 Go 目前正在使用的垃圾回收算法。

当一个对象的指针指向关系不可达的时候，该对象就要被回收了。

image-20230821160949444.png

追踪垃圾回收算法垃圾回收步骤：

  1. 标记根对象：标记包括静态变量、全局变量、常量、线程栈等

  2. 标记找到可达对象：标记指针指向关系的传递闭包，从根对象触发，找到所有可达对象

  3. 清理所有不可达对象：

  • 将存活对象复制到另外的内存空间（Copying GC）

image-20230821161234440.png

  • 将死亡对象的内存标记为”可分配“（Marking-sweep GC），使用 free list 管理空闲内存

image-20230821161248011.png

  • 移动并整理存活对象（Mark-compact GC），原地整理对象，缩小间距

image-20230821161343752.png

根据对象的生命周期，垃圾回收器可能会使用不同的标记和清理策略。

1.3 分代GC

分代假（Generational hypothesis）——大多数对象很快就死掉了（most objects die young），很多对象在分配出来后很快就不再使用了。

分代GC（Generational GC）是一种常见的内存管理方式，思想是基于分代假说。

每个对象都有年龄：经历过 GC的次数

不同年龄的对象处于 heap 的不同区域，对年轻和老年的对象，制定不同的 GC 策略，降低整体内存管理的开销：

image-20230821161617823.png

  • 年轻代：常规的对象分配，由于存活对象很少，可以采用Copying GC，GC吞吐量很高。

  • 老年代：对象趋向于一直活着，反复复制开销较大，可以采用Marking-sweep GC。

1.4 引用计数

每个对象都有一个与之关联的引用数目，当且仅当引用数大于 0 时，该对象被标记为存活，否则，对象会被回收。

image-20230821162032005.png

优点：

  • 内存管理的操作被平摊到程序执行的过程中（新建对象或是将对象添加到一个集合中时增加引用计数，反之，销毁对象或是从集合中移除时减少引用计数）
  • 内存管理不需要了解 runtime 的实现细节（例如 C++ 的智能指针）；

缺点：

  • 开销较大，因为对象可能会被多线程访问，对引用计数的修改需要原子操作保证原子性和可见性
  • 无法回收环形数据结构——week reference
  • 每个对象引入额外的内存空间以存储引用数目
  • 依然可能引发暂停等。

image-20230821162424808.png

2. Go内存管理和优化

2.1 内存分配——分块

提前将内存分块：

  • 调用系统调用 mmap() 向 OS 申请一大块内存，例如 4 MB
  • 先将内存划分成大块，例如 8 KB，称作 mspan
  • 再将大块继续划分成特定大小的小块，用于对象分配
  • noscan mspan：分配不包含指针的对象——GC 不需要扫描
  • scan mspan：分配包含指针的对象——GC 需要扫描

对象分配：根据对象的大小，选择最合适的块返回

image-20230821162558687.png

2.2 内存分配——缓存

Go的内存分配借鉴了TCMalloc(Thread Caching)内存分配器的实现。

Go在分配内存的时候，都是Goroutine上面执行的代码去分配一块内存，如下图所示。

每个 p 包含一个 mcache 用于快速分配，用于为绑定于 p 上的 g 分配对象

mcache 管理一组 mspan

当 mcache 中的 mspan 分配完毕，向 mcentral 申请带有未分配块的 mspan

当 mspan 中没有分配的对象，mspan 会被缓存在 mcentral 中，而不是立刻释放并归还给 OS

image-20230821162821966.png

总结：通过维护 mcache 管理一组 mspan 加快内存分配效率，避免重复向操作系统申请内存。

2.3 我们的优化方案：Balanced GC

每个 g 都绑定一大块内存 (1 KB) ，称作 goroutine allocation buffer (GAB)

GAB 用于 noscan 类型的小对象分配：<128 B

使用三个指针维护 GAB：base、end、top

Bump pointer（指针碰撞）风格对象分配：无须和其他分配请求互斥，分配动作简单高效

image-20230821163258494.png

GAB 对于 Go 内存管理来说是一个对象

本质：将多个小对象的分配合并成一次达对象的分配

问题：GAB 的对象分配方式会导致内存被延迟释放

方案：移动 GAB 中存活的对象

  • 当 GAB 总大小超过一定闯值时，将 GAB 中存活的对象复制到另外分配的 GAB 中
  • 原先的 GAB 可以释放，避免内存泄漏
  • 本质: 用 copying GC 的算法管理小对象

image-20230821163509119.png

3. 编译器和静态分析

3.1 基本介绍

image-20230821163611466.png

3.2 数据流和控制流

静态分析：不执行程序代码，推导程序的行为，分析程序的性质。

源代码：

image-20230821164228444.png

控制流：程序执行的流程

image-20230821164206022.png

数据流：数据在控制流上的传递

image-20230821164252935.png

3.3 过程内和过程间分析

过程内分析：仅在函数内部进行分析

过程间分析：考虑函数调用时参数传递和返回值的数据流和控制流

4. Go 编译器优化

4.1 函数内联

内联：将被调用函数的函数体(callee) 的副本替换到调用位置(caller) 上，同时重写代码以反映参数的绑定

  • 消除函数调用开销，例如传递参数、保存寄存器等
  • 将过程间分析转化为过程内分析，帮助其他优化，例如逃逸分析

4.2 Beast mode

Go 函数内联受到的限制较多：

  • 语言特性，例如 interface, defer 等，限制了函数内联
  • 内联策略非常保守

Beast mode：调整函数内联的策略，使更多函数被内联

  • 降低函数调用的开销
  • 增加了其他优化的机会: 逃逸分析

开销：

  • Go 镜像增加 ~10%
  • 编译时间增加

4.3 逃逸分析

逃逸分析：分析代码中指针的动态作用域，指针在何处可以被访问

大致思路：

  • 从对象分配处出发，沿着控制流，观察对象的数据流
  • 若发现指针 p 在当前作用域 s：
    • 作为参数传递给其他函数
    • 传递给全局变量
    • 传递给其他的 goroutine
    • 传递给已逃逸的指针指向的对象
  • 则指针 p 指向的对象逃逸出 s，反之则没有逃逸出 s

优化：未逃逸的对象可以在栈上分配

  • 对象在栈上分配和回收很快: 移动 sp
  • 减少在 heap 上的分配，降低 GC 负担
avatar
文章
阅读
粉丝