Go 语言 内存管理和编译器优化｜ 青训营笔记

一伸懒腰又是一天
71 阅读9分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 5 天

高性能Go语言发行版优化与落地实践 [go语言优化的展开]

  • 优化：内存管理优化 + 编译器优化
  • 背景：自动内存管理和Go内存管理机制 & 编译器优化的基本问题和思路
  • 实践：字节跳动公司遇到的性能问题以及优化方案简介

0. 性能优化

基本问题: 提升软件处理系统的能力,提升用户体验;减少非必要的损耗,实现资源高效利用

0.1 层面

自顶向下: 业务代码、SDK、基础库、语言运行时、OS

  • 业务层优化
    • 针对特定场景，具体问题，具体分析,比较容易获得较大的性能收益
  • 语言运行时优化
    • 解决更通用的性能问题
    • 考虑更多场景
    • Tradeoffs
  • 原则:数据驱动
    • 自动化性能分析工具——pprof
    • 依靠数据而非猜测，实事求是
    • 首先优化最大瓶颈

0.2 软件质量 [注重可维护性]

  • 在保证接口稳定的前提下，改进具体实现image.png
  • 测试用例：覆盖尽可能多的场景，方便回归
  • 文档：说明清楚功能和效果
  • 隔离：通过选项控制是否开启优化(产品稳定性)
  • 可观测(必要的日志输出)、可灰度、可回滚

SDK： 即Software Development Kit的缩写，译作软件开发工具包。软件开发工具包是一个覆盖面相当广泛的名词，你甚至可以这么理解：辅助开发某一类软件的相关文档、范例和工具的集合都可以叫做SDK。

一个完整的SDK应该包括以下内容：

  • 接口文件和库文件：笼统地说就是API。通过将底层的代码进行封装保护，提供给用户一个调用底层代码的接口。
  • 帮助文档：用来解释接口文件和库文件（即API）的功能，以及介绍相关的开发工具，操作示例等。
  • 开发示例：即简单的成品DEMO展示，包括源代码。
  • 实用工具：通常是指用来协助用户进行二次开发的工具，比如二次开发向导、API 搜索工具、软件打包工具等。

1. 自动内存管理Auto memory management

1.1 基本概念

管理对象: 动态内存--程序在运行时根据需求动态分配的内存：类似于C语言的malloc()

自动内存管理（垃圾回收 Grabage collction）：由程序语言的运行时系统管理动态内存

  • 避免手动内存管理，专注于实现业务逻辑,降低开发负担
  • 保证内存使用的正确性和安全性，防止double-free problem & use-after-free problem等内存使用不当的问题

Go 在 1.20 版本引入了实验性的 arenas 系统，允许手动申请一处连续的内存，可在最低程度 GC 的情况下使用，并允许手动释放.

GC的三个任务：

  • 为新对象分配空间
  • 找到存活对象
  • 回收死亡对象的内存空间

一些概念

  • Mutator：业务线程，分配新对象，修改对象指向关系
  • Collector：GC线程，找到存活对象，回收死亡对象的内存空间
    • 特别地，Collectors 必须感知对象指向关系的改变
  • Serial GC：只有一个collector, 会暂停
  • Parallel GC：支持多个collectors同时回收的GC算法, 并行
  • Concurrent GC：mutator(s) 和 collector(s) 可以同时执行, 并发

image.png

GC算法的评价指标：

  • 安全性：不能回收存活的对象 基本要求
  • 吞吐率：1 - GC时间 / 程序执行总时间 花在GC上的时间
  • 暂停时间：stop the word (STW) 业务是否感知
  • 内存开销：GC元数据开销

GC技术*3

Tracing garbage collection: 追踪垃圾回收

对象被回收的条件：指针指向关系不可达的对象

步骤：

  • 标记root对象：包括静态变量、全局变量、常量和线程栈等等；
  • 标记可达对象：求指针指向关系的传递闭包：从根对象出发，找到所有可达对象；
  • 清理所有不可达对象：
    • 将存活对象复制到另外的内存空间 (Copying GC)
    • 将死亡对象的内存标记为"可分配",使用free list管理空闲内存 (Mark-sweep GC)
    • 移动并整理存活对象 (Mark-compact GC)
  • 根据对象的生命周期，使用不同的标记和清理策略

Generational GC: 分代GC

  • 分代假说：most objects die young
  • Intuition：很多对象在分配出来后很快就不再使用了（英年早逝）
  • 每个对象都有年龄：经历过GC的次数
  • 目的：对年轻和老年的对象，制定不同的GC策略，降低整体内存管理的开销
  • 不同年龄的对象处于heap的不同区域
  • 年轻代Young generation
    • 常规的内存分配
    • 由于存活对象很少，可以采用copying GC
    • GC吞吐率很高
  • 老年代Old generation
    • 对象趋向于一直活着，反复复制开销较大
    • 可以采用mark-sweep GC

Reference counting: 引用计数

每个对象都有一个与之关联的引用数目；

对象存活的条件：当且仅当引用数>0

prons

  • 内存管理的操作被平摊到程序执行过程中
  • 内存管理不需要了解runtime的实现细节：C++智能指针(smart pointer)

cons

  • 维护引用计数的开销较大：通过原子操作保证对引用计数的原子性和可见性
  • 无法回收环形数据结构——weak reference
  • 内存开销：每个对象都引入的额外内存空间存储引用数目
  • 回收内存时依然可能引发暂停

2. Go 内存管理及优化

2.1 Go内存分配——分块

  • 目标：为对象在heap上分配内存
  • 提前将内存分块
    • 调用系统调用mmap()向OS申请一大块内存，例如4MB
    • 先将内存划分成大块，例如8KB，称作mspan
    • 再继续将大块划分成特定大小的小块，用于按需对象的分配
    • noscan mspan：分配不包含指针的对象——GC不需要扫描
    • scan mspan：分配包含指针的对象——GC需要扫描
  • 对象分配：根据对象的大小，选择最合适的块

2.2 Go内存分配——缓存

通过维护 mcache 管理一组 mspan 加快内存分配效率，避免重复向操作系统申请内存

  • TCMalloc：thread caching
  • 每个p包含一个mcache用于快速分配，用于为绑定于p上的g分配对象
  • mcache管理一组mspan
  • 当mcache中的mspan分配完毕，向mcentral申请带有未分配块的mspan
  • 当mspan中没有分配的对象，mspan会被缓存在mcentral中，而不是立刻释放并归还给OS

2.3 Go内存管理优化

  • 对象分配是非常高频的操作：每秒分配GB级别的内存
  • 空间较小的对象占比比较高 [问题:小对象居多/ 分配路径过长]
  • Go内存分配比较耗时
    • 分配路径长：g -> m -> p -> mcache -> mspan -> memory block -> return pointer
    • pprof：对象分配的函数是最频繁调用的函数之一

字节的优化对象分配方案：Balanced GC

  • 每个g都绑定一大块内存（1KB），称作goroutine allocation buffer (GAB)
  • GAB用于noscan类型的小对象分配：< 128B
  • 使用三个指针维护GAB：base基地址, end结束地址, top当前地址
  • Bump pointer（指针碰撞）风格的对象分配：
    • 无需和其他分配请求互斥
    • 分配动作简单高效（移动top指针） image.png

Balanced GC的一些细节：

  • GAB对于Go内存来说是一个大对象
  • 本质：将多个小对象的分配合并成一次大对象的分配
  • 问题：GAB的对象分配方式会导致内存被延迟释放
  • 方案：移动GAB中的存活对象
    • 当GAB总大小超过一定阈值时，将GAB中存活的对象复制到另外分配的GAB中
    • 原先的GAB可以释放，避免内存泄漏
    • 本质：用copying GC的算法管理小对象（根据对象的生命周期，使用不同的标记和清理策略）

3. 编译器和静态分析

3.1 编译器的结构

  • 重要的系统软件

    • 识别符合语法和非法的程序
    • 生成正确且高效的代码

  • 分析部分：（前端 front end）

    • 词法分析：生成词素（lexeme）
    • 语法分析：生成语法树
    • 语义分析：收集类型信息，进行语义检查
    • 中间代码生成：生成intermediate representation（IR）

  • 综合部分：（后端 back end）

    • 代码优化：机器无关代码，生成优化后的IR
    • 代码生成：生成目标代码

image.png

3.2 静态分析

静态分析 ：不执行程序代码，推导程序的行为，分析程序的性质。

  • 控制流：程序执行的流程
  • 数据流：数据在控制流上的传递

通过分析控制流和数据流，我们可以知道更多关于程序的性质（properties） ，根据这些性质优化代码。

3.3 过程内分析和过程间分析

  • Intra-procedural analysis 过程内分析：仅在函数内部进行分析
  • Inter-procedural analysis 过程间分析：考虑过程调用时参数传递和返回值的数据流和控制流
    • 过程间分析需要同时分析控制流和数据流——联合求解，比较复杂

4. Go 编译器优化

思路

  • 场景：面向后端长期执行任务
  • Tradeoff：用编译时间换取更高效的机器码

Beast mode——提升代码性能 [through 调整内联策略 降低函数调用开销 增加其他优化机会(Go镜像和编译时间增加)]

  • 函数内联 Function inlining——将被调用函数的函数体(callee)的副本替换到调用位置(caller)上，同时重写代码以反映参数的绑定
    • pros
      • 清除函数调用开销，例如传递参数、保存寄存器等
      • 将过程间分析转化为过程内分析，帮助其他优化，例如逃逸分析
    • cons
      • 函数体变大, instruction cache (icache)不友好
      • 编译生成的Go镜像变大
    • 多数情况下是正向优化
    • 内联策略:调用和被调函数的规模……
    • 限制较多:Go语言特性(接口/defer…),内联策略保守
    micro-benchmark //快速验证和对比性能优化结果
  • 逃逸分析 Escape analysis
    • 分析代码中指针的动态作用域：指针在何处可以被访问image.png
  • 默认栈大小调整
  • 边界检查消除
  • 循环展开……

参考: 官方本课整理

avatar
文章
阅读
粉丝